可扩展代理的设计原则

构建可扩展的 Agentic 系统

Korey Stegared-Pace

Senior AI Cloud Advocate, Microsoft

可扩展还是不可扩展？

可扩展还是不可扩展？

可扩展还是不可扩展？

可扩展还是不可扩展？

可扩展代理系统的支柱

稳健的基础设施与工具

• 计算：运行代码的资源

 

• 存储：保存状态、日志与历史

稳健的基础设施与工具

可靠的部署流水线

成熟的代理工具链

模块化

将系统设计为相互独立的组件，以组成更大的整体

• 便于独立设计、开发与维护

模块化

将系统设计为相互独立的组件，以组成更大的整体

• 便于独立设计、开发与维护

模块化

将系统设计为相互独立的组件，以组成更大的整体

• 便于独立设计、开发与维护

代理的模块化：软件模块化

代理的模块化：多代理

代理的模块化：多代理

示例：客服多代理系统

第 2 章抢先看

¹ https://langchain-ai.github.io/langgraph/concepts/multi_agent/#multi-agent-architectures

持续评估与反馈闭环

 

• 全面_监控_

 

持续评估与反馈闭环

 

• 全面_监控_
• 常见指标：
  • 成功率
  • 延迟
  • 错误

 

持续评估与反馈闭环

 

• 全面_监控_
• 常见指标：
  • 成功率
  • 延迟
  • 错误
• 收集用户反馈

 

开始练习吧！

构建可扩展的 Agentic 系统