链与代理

LLMOps 概念

Max Knobbout, PhD

Applied Scientist, Uber

LLM 生命周期：链与代理

从提示到应用

 

• 要使用此模板，我们需要：
  • 示例
  • 输入
• 我们将经历以下步骤：
  1. 接收输入
  2. 搜索示例
  3. 生成提示
  4. 获取输出
  5. 解析输出

使用模板的链

 

为什么需要链

 

 

 

• 构建更复杂的应用
• 建立模块化设计，提升可扩展性与效率
• 释放无限定制可能

代理

 

 

 

• 代理由以下组成：
  • 多个动作（或工具）
  • 由 LLM 决定采取哪个动作

 

• 适用场景：
  • 动作很多
  • 最优步骤顺序未知
  • 输入不确定

代理

代理

代理

链与代理的区别

 

 

	链 🔗	代理 🤖
特性	确定性	自适应
复杂度	低	高
灵活性	低	高
风险	低（因可预测）	高（因可适应）

开发周期

开发周期

开发周期

Ayo berlatih!

LLMOps 概念