优雅降级:降低风险

构建可扩展的 Agentic 系统

Korey Stegared-Pace

Senior AI Cloud Advocate, Microsoft

工具调用失败

解决方案

 

  • 明确参数与用法

 

  • 工具输出验证(单元测试)

 

  • 工具选择的校验

 

  • MCP!
问题

工具调用失败.png

构建可扩展的 Agentic 系统

工具调用失败——重试机制

 

  • 外部服务可能_宕机或暂时变慢_

 

  • 重试

    • 指数退避逐步拉长重试间隔
    • 用_回调_告知用户问题

构建可扩展的 Agentic 系统

工具调用失败——缓存

 

  • 将工具输出缓存为_后备_

 

  • 适用:更新不频繁的静态数据

 

  • 不适用:提供实时信息的工具

缓存.png

构建可扩展的 Agentic 系统

工具调用失败——队列管理

 

  • 工具调用可能彼此_依赖_

 

  • 示例:先订机票,再叫出租车

 

  • 失败的调用可下移至队列后面

 

队列管理.png

构建可扩展的 Agentic 系统

身份验证

IT 身份验证.png

 

  • 工具可能需要对私有数据的_访问_与_权限_

 

  • 示例:IT 支持人员
    • 允许访问:系统日志
    • 禁止访问:密码、位置等
构建可扩展的 Agentic 系统

身份验证——唯一代理标识符

代理唯一标识.jpg

构建可扩展的 Agentic 系统

身份验证——隔离环境

隔离环境.jpg

构建可扩展的 Agentic 系统

身份验证——护栏与操作约束

限制.jpg

构建可扩展的 Agentic 系统

Passons à la pratique !

构建可扩展的 Agentic 系统

Preparing Video For Download...