核心功能
Agent 服务化:注册并远程调用 Agent。
功能亮点
slug
llama-agents
仓库
github.com/run-llama/llama-agents(本环境直连返回 000,基于公开资料核对)。
适用场景
• 多步骤自动化
• 研发/运营助理
• 知识库助手
安装配置
pip install llama-agents,它主要依赖 llama-index-core,跟着官方示例走还要 pip install llama-index-agent-openai llama-index-embeddings-openai 并配好 OPENAI_API_KEY(示例常用 .env + dotenv 加载);需要注意该项目已被官方重构并更名为 Llama Deploy —— 新项目请改装 pip install llama_deploy(自带 llamactl 命令行与 Python SDK,面向部署 llama-index 的 Workflow),llama-agents 包仅建议用于维护存量代码。
使用方法
先用 llama-index 建好 Agent(如 ReActAgent.from_tools([tool], llm=OpenAI()) 或 FunctionCallingAgentWorker.from_tools(...).as_agent()),再把每个 Agent 包成一个 AgentService,传入共享的 message_queue、service_name、description 和监听端口;系统底座是一个 SimpleMessageQueue 消息队列加一个 ControlPlaneServer 控制面,控制面里挂 AgentOrchestrator(llm=…) 由 LLM 依据各服务的 description 决定任务下一步交给谁(也可以自己写确定性编排);调试阶段用 LocalLauncher([svc1, svc2], control_plane, message_queue).launch_single('你的问题') 让一条消息在网络里跑一遍并直接返回结果(Notebook 里要先 nest_asyncio.apply());跑通后换 ServerLauncher 把控制面与各 AgentService 拉成独立进程/容器对外提供 HTTP 接口,并注册 CallableMessageConsumer 消费 human 队列里的最终产出,各服务可独立扩缩容与监控;迁到 Llama Deploy 后写法改为把 llama-index Workflow 用 deploy_core / deploy_workflow 部署,再用客户端 session.run('workflow名', …) 调用。
关键指标
尚未核验对标产品,此处只列本工具自身指标,不做对比结论。
相关工具
同类工具
优点
- 适合复杂任务
- 可组合
- 生态增长快
缺点
- 可靠性/安全难点
- 需要评测与监控
- 工程化成本