アイデア出しフェーズ

LLMOpsの概念

Max Knobbout, PhD

Applied Scientist, Uber

LLMライフサイクル:アイデア出しフェーズ

LLMアプリケーションライフサイクルのフェーズ概要

LLMOpsの概念

データの調達

 

様々なデータソースを持ち上げるキャラクターのイラスト

 

  • ニーズの特定

 

  • ソースの探索

 

  • アクセス可能性の確保
LLMOpsの概念

データの調達

 

様々なデータソースを持ち上げるキャラクターのイラスト

  1. データは適切か?
  2. データは利用可能か?
    • データの変換
    • 追加データベースの構築
    • コストの評価
    • その他のアクセス制限の検討
  3. データは基準を満たしているか?
    • 品質とガバナンスに関する事項
LLMOpsの概念

ベースモデルの選定

  • 事前学習済みモデル:

事前学習済みモデルの画像

  • プロプライエタリかオープンソースか?
LLMOpsの概念

プロプライエタリモデル(民間所有)

メリット:

  • 導入・使用の容易さ
  • 品質保証
  • 信頼性、速度、可用性

 

制限:

  • データの公開が必要
  • カスタマイズ性

例:

プロプライエタリLLMモデルのロゴ

LLMOpsの概念

オープンソース(公開利用可能)

メリット:

  • 社内ホスティング
  • 透明性
  • 完全なカスタマイズ性

 

制限:

  • サポート
  • 商用利用

 

例: Meta Llama 3のロゴ

 

ダウンロード元: Hugging Faceのロゴ

LLMOpsの概念

モデル選定の要因

1. パフォーマンス

  • 応答品質
  • 速度

パフォーマンス関連アイコン

2. モデルの特性

  • 学習に使用されたデータ
  • コンテキストウィンドウサイズ
  • ファインチューニングの可否

モデル特性関連アイコン

LLMOpsの概念

モデル選定の要因

3. 実用的な考慮事項

  • ライセンス
  • コスト
  • 環境への影響

実用的考慮事項関連アイコン

4. 補助的な要因

  • パラメータ数
  • 普及度

補助的要因関連アイコン

LLMOpsの概念

では、練習しましょう!

LLMOpsの概念

Preparing Video For Download...