アイデア創出フェーズ

LLMOps の概念

Max Knobbout, PhD

Applied Scientist, Uber

LLMのライフサイクル アイデア創出フェーズ

LLMアプリケーションライフサイクルフェーズの概要

LLMOps の概念

データソース

さまざまなデータソースを掲げる漫画の遊び心ある画像

  • ニーズの特定
  • ソースの検索
  • アクセシビリティを確保すること
LLMOps の概念

データソース

さまざまなデータソースを掲げる漫画の遊び心ある画像

  1. データは関連していますか?
  2. データは利用可能ですか?
    • データ{{3}}を変換する
    • 追加のデータベースを作成する
    • コストを評価する
    • 他のアクセス制限を考慮する
  3. データは基準を満たしていますか?
    • 品質とガバナンスに関する懸念
LLMOps の概念

ベースモデルの選択

  • 事前学習済みモデル:

事前学習済みモデルの画像

  • プロプライエタリかオープンソースか?
LLMOps の概念

独自モデル(非公開所有)

利点:

  • セットアップと使用のしやすさ
  • 品質保証
  • 信頼性、速度、可用性

限界:

  • データ{{6}}を公開する必要があります
  • カスタマイズ

例:

独自LLMモデルのロゴ

LLMOps の概念

オープンソース(公開アクセス可能)

利点:

  • 社内ホスティング
  • 透明性
  • 完全なカスタマイズ性

限界:

  • サポート
  • 商用利用

例: Meta Llama 3のロゴ

ダウンロード可能先: Hugging Faceのロゴ

LLMOps の概念

モデル選択における要因

1. パフォーマンス

  • 応答品質
  • 処理速度

パフォーマンスに関連するアイコン

2. モデルの特徴

  • モデルの学習に使用するデータ
  • コンテキスト ウィンドウサイズ
  • ファインチューニング可能性

モデル特性に関連するアイコン群

LLMOps の概念

モデル選択における要因

3. 実務的な考慮事項

  • ライセンス
  • 費用

実務上の考慮事項に関連するアイコン

4. 二次要因

  • パラメータの数
  • 人気

二次的な要素に関連するアイコン

LLMOps の概念

練習しましょう!

LLMOps の概念

Preparing Video For Download...