チェーンとエージェント

LLMOps の概念

Max Knobbout, PhD

Applied Scientist, Uber

LLMのライフサイクル チェーンとエージェント

LLMアプリケーションのライフサイクル各フェーズの概要

LLMOps の概念

プロンプトからアプリケーションまで

料理のカロリー分類用プロンプトテンプレート

  • このテンプレートを使用するには、次が必要です:
    • 入力
  • いくつかの手順を踏みます:
    1. 入力を受け取る
    2. 例を検索する
    3. プロンプトの作成
    4. 出力の取得
    5. 出力の解析
LLMOps の概念

私たちのテンプレートを使用したチェーン

データベースから類似の料理を取得するチェーンを使用したLLMアプリケーション

LLMOps の概念

チェーンの必要性

3人の漫画キャラクターが鎖を描いている遊び心のある画像

  • 高度なアプリケーションを開発する
  • モジュール式設計を確立し、拡張性と運用効率を向上させる
  • カスタマイズの無限の可能性を広げる
LLMOps の概念

エージェント

ロボットのネズミに乗っている漫画のキャラクターの遊び心のある画像

  • エージェントは以下で構成されます:
    • 複数のアクション(またはツール)
    • LLMがどのアクションを取るかを判断する
  • {{4}} の場合に役立つ
    • 多くの操作があります
    • 最適な手順は不明です
    • 入力について不確かです
LLMOps の概念

エージェント

2つのアクションを持つエージェントアーキテクチャ

LLMOps の概念

エージェント

2つのアクションがあるエージェントアーキテクチャ

LLMOps の概念

エージェント

2つのアクションを持つエージェントアーキテクチャ

LLMOps の概念

チェーンとエージェントの違い

鎖 🔗 エージェント 🤖
性質 決定論的 適応的
複雑さ
柔軟性
リスク 低い(予測可能性による) 高い(適応性による)
LLMOps の概念

開発サイクル

プロンプトエンジニアリングの活動を追加した開発サイクル

LLMOps の概念

開発サイクル

チェーンとエージェントを用いた開発サイクル。

LLMOps の概念

開発サイクル

連鎖およびエージェント開発の活動を加えた開発サイクル

LLMOps の概念

練習しましょう!

LLMOps の概念

Preparing Video For Download...