チェーンとエージェント

LLMOpsの概念

Max Knobbout, PhD

Applied Scientist, Uber

LLMライフサイクル：チェーンとエージェント

プロンプトからアプリケーションへ

 

• テンプレートの使用に必要なもの:
  • サンプル
  • 入力
• 実行ステップ:
  1. 入力の受け取り
  2. サンプルの検索
  3. プロンプトの作成
  4. 出力の取得
  5. 出力の解析

テンプレートを使ったチェーン

 

チェーンの必要性

 

 

 

• 高度なアプリケーションの開発
• モジュール設計によるスケーラビリティと運用効率の向上
• 無限のカスタマイズの可能性

エージェント

 

 

 

• エージェントの構成要素:
  • 複数のアクション（ツール）
  • 実行するアクションを決定するLLM

 

• 適した状況:
  • アクションが多い場合
  • 最適な手順が不明な場合
  • 入力が不確定な場合

エージェント

エージェント

エージェント

チェーンとエージェントの違い

 

 

	チェーン 🔗	エージェント 🤖
性質	決定論的	適応的
複雑さ	低	高
柔軟性	低	高
リスク	低い（予測可能性による）	高い（適応性による）

開発サイクル

開発サイクル

開発サイクル

さあ、練習しましょう！

LLMOpsの概念