プロンプトエンジニアリング

LLMOps の概念

Max Knobbout, PhD

Applied Scientist, Uber

LLMライフサイクル: プロンプトエンジニアリング

LLMアプリケーションのライフサイクル各フェーズの概要

LLMOps の概念

開発サイクル

この章の中で洗練されていく開発サイクルの初期概要

LLMOps の概念

プロンプトエンジニアリングはなぜ重要ですか?

プロンプトに関する教えを描いた遊び心のある漫画

  • パフォーマンス向上
  • 出力の制御
  • バイアスとハルシネーションを避ける
LLMOps の概念

プロンプトの要素

  1. 指示
  2. 例 / 文脈
  3. 入力データ
  4. 出力インジケーター

指示、例、入力、出力を示すプロンプトの例

LLMOps の概念

最適なプロンプトを見つけること

遊び場で遊ぶ二人の漫画キャラクターの画像

実験してみてください:

  • LLM設定、たとえば温度や最大トークンなど
  • インコンテキスト学習とその他のプロンプト設計パターン

実験にはプレイグラウンドを使いましょう!

LLMOps の概念

プロンプト管理

アーカイブボックスにプロンプトをしまう遊び心のある漫画キャラクター

  • 効率性、再現性、コラボレーションのために極めて重要
  • 重要な追跡事項:
    • プロンプト
    • 出力
    • モデルと設定
  • プロンプトマネージャーまたはバージョン管理を使用
  • 評価用の良質な入力-出力ペアのコレクションの生成を開始してください
LLMOps の概念

再利用のためのプロンプトテンプレート

左側にあるプロンプトの画像と、右側にあるプロンプトテンプレートの画像があり、両者の違いを強調している

LLMOps の概念

開発サイクル

この章の中で洗練されていく開発サイクルの初期概要

LLMOps の概念

開発サイクル

プロンプトエンジニアリングの活動を追加した開発サイクル

LLMOps の概念

練習しましょう!

LLMOps の概念

Preparing Video For Download...