提示工程

LLMOps 概念

Max Knobbout, PhD

Applied Scientist, Uber

LLM 生命週期：提示工程

開發循環

為什麼提示工程很重要？

 

 

 

• 提升效能
• 控制輸出
• 降低偏誤與幻覺

提示的要素

 

 

1. 指示
2. 範例／脈絡
3. 輸入資料
4. 輸出指示

找到理想提示

 

 

 

可實驗項目：

• LLM 設定，例如 temperature、max tokens
• 情境式學習與其他提示設計樣式

 

用 playground 進行實驗！

提示管理

 

 

• 對效率、可重現、協作至關重要
• 需追蹤：
  • 提示
  • 輸出
  • 模型與設定
• 使用提示管理工具或版控
• 開始累積良好的輸入－輸出配對作為評估資料

提升重用性的提示範本

開發循環

開發循環

一起來練習吧！

LLMOps 概念