最近在做 AI Agent 相关的产品，整理了一下技术栈中用到的开源项目，分享给有类似需求的朋友。
沙箱 / 代码执行
Agent 要执行代码、装包、操作文件，隔离是刚需。
- https://github.com/boxlite-labs/boxlite — 可嵌入的轻量 VM 运行时，硬件级隔离，无 daemon ，直接用 OCI 镜像。适合需要完整 Linux 环境但又不想管 VM 基础设施的场景。
- https://github.com/firecracker-microvm/firecracker — AWS 开源的 microVM ，Lambda 和 Fargate 背后的技术，功能强大但上手门槛较高。
- https://github.com/google/gvisor — Google 的用户态内核，拦截系统调用实现隔离，比纯容器安全但有兼容性问题。
Agent 框架
- https://github.com/langchain-ai/langchain — 生态最全，工具链丰富，但抽象层多，调试有时候头疼。
- https://github.com/langchain-ai/langgraph — LangChain 团队做的，适合复杂多步骤 workflow 。
- https://github.com/crewAIInc/crewAI — 多 Agent 协作，上手简单。
- https://github.com/microsoft/autogen — 微软出品，多 Agent 对话模式。
向量数据库 / RAG
- https://github.com/chroma-core/chroma — 轻量嵌入式，本地开发首选。
- https://github.com/milvus-io/milvus — 生产级，支持分布式，适合大规模。
- https://github.com/qdrant/qdrant — Rust 写的，性能不错，API 设计干净。
- https://github.com/run-llama/llama_index — RAG 全家桶，数据连接器多。
模型推理
- https://github.com/vllm-project/vllm — 高吞吐推理，PagedAttention ，生产部署常用。
- https://github.com/ollama/ollama — 本地跑模型最省心的方案。
- https://github.com/ggerganov/llama.cpp — CPU 推理之王，量化模型必备。
可观测性
- https://smith.langchain.com/ — LangChain 配套，trace 调试方便（非开源但有免费额度）。
- https://github.com/Arize-ai/phoenix — 开源的 LLM 可观测性工具。
大家在用什么其他项目？欢迎补充。
 |
1
carmark 7 天前  1
kata container.
|
 |
2
omengye 7 天前 2
补充个可观测性的项目 langfuse
|
|
3
omengye 7 天前 1
|
 |
4
darktutu 7 天前 1
|
 |
5
pengwkgood 7 天前 1
👍
|
 |
6
Oats 7 天前 1
补一个 agent 框架 https://github.com/agno-agi/agno
|
 |
7
d0r1an OP 我想把这些框架放到 BoxLite 里面，做成一套真正开源的安全 Manus ，各位怎么看～
|
|
8
d0r1an OP 如果有这么个产品，各位希望 sdk 长成什么样的，我参考各位的需求开发～
|
 |
9
cxhello 7 天前 2
https://github.com/CopilotKit/CopilotKit 补充一个前端框架 ag-ui 协议
|
 |
14
Eilen 7 天前 1
|
 |
15
achangzhou 7 天前
以代码执行为特色的智能体框架，1000 行以内，HuggingFace 出的，https://github.com/huggingface/smolagents
|
 |
16
cabing 7 天前 1
赞。
|
|
17
d0r1an OP @achangzhou 使用下来感觉如何
|
 |
18
zmcity 7 天前
微软的 ai 开源项目真不敢碰，出一个，烂尾，然后又出一个，又烂尾。。。
|
|
20
achangzhou 6 天前
@d0r1an 这个就是纯框架，主要核心还是 ReAct Loop ，但不是靠 function call, 而是执行代码片段，对于理解 Agentic AI 有帮助。但提供的基本工具 和 沙盒相对是比较简单，但因为框架比较轻，非常适合 fork 过来，自己动手改造。
|
|
21
d0r1an OP @achangzhou 如何和 BoxLite 结合，有什么建议吗？
|
|
22
achangzhou 6 天前
@d0r1an 粗看一下，应该是可以互相补充的，把 BoxLit 当作一个功能强大一点的，Python + Bash 沙盒
|
|
23
d0r1an OP @achangzhou 我不想把沙盒当做工具，我想把沙盒当做 runtime 本身，你怎么看
|
 |
25
rpman 6 天前 via iPhone
楼主是 boxlite 的么？下午试了下写了个 agentic loop 去调用，确实不错
需要 example contribution 吗 |
 |
27
chocolatedesue 5 天前
这个好像差不多？不过安全性上可能差一点，用的容器方案，但感觉完成度还是高的 https://github.com/agent-infra/sandbox
|
Select Language