プロンプトエンジニアリング

LLMOpsの概念

Max Knobbout, PhD

Applied Scientist, Uber

LLMライフサイクル：プロンプトエンジニアリング

開発サイクル

プロンプトエンジニアリングが重要な理由

 

 

 

• パフォーマンスの向上
• 出力の制御
• バイアスと幻覚の回避

プロンプトの構成要素

 

 

1. 指示
2. 例 / コンテキスト
3. 入力データ
4. 出力インジケーター

最適なプロンプトを見つける

 

 

 

試してみましょう：

• 温度やmax tokensなどのLLM設定
• インコンテキスト学習やその他のプロンプト設計パターン

 

プレイグラウンドを活用して実験しましょう！

プロンプト管理

 

 

• 効率性・再現性・共同作業のために重要
• 追跡すべき項目：
  • プロンプト
  • 出力
  • モデルと設定
• プロンプトマネージャーまたはバージョン管理を使用する
• 評価用の良い入出力ペアのコレクションを構築し始める

再利用可能なプロンプトテンプレート

開発サイクル

開発サイクル

さあ、練習しましょう！

LLMOpsの概念