Chains 與 Agents

LLMOps 概念

Max Knobbout, PhD

Applied Scientist, Uber

LLM 生命週期：Chains 與 Agents

從提示到應用程式

 

• 使用此模板需要：
  • 範例
  • 輸入
• 我們依序進行：
  1. 接收輸入
  2. 搜尋範例
  3. 建立提示
  4. 取得輸出
  5. 解析輸出

使用我們模板的 chain

 

為什麼需要 chains

 

 

 

• 開發更精密的應用
• 建立模組化設計，提升可擴充性與效率
• 開放無限客製化可能

Agents

 

 

 

• Agent 組成：
  • 多個動作（或工具）
  • 由 LLM 決定採取哪個動作

 

• 什麼時候好用：
  • 動作很多
  • 最佳步驟順序未知
  • 輸入不確定

Agents

Agents

Agents

Chains 與 Agents 的差異

 

 

	Chains 🔗	Agents 🤖
Nature	決定論	適應型
Complexity	低	高
Flexibility	低	高
Risk	較低（可預測性）	較高（具適應性）

開發循環

開發循環

開發循環

一起來練習吧！

LLMOps 概念