提示工程

LLMOps 概念

Max Knobbout, PhD

Applied Scientist, Uber

LLM 生命周期：提示工程

开发周期

为何提示工程重要？

 

 

 

• 提升性能
• 控制输出
• 减少偏见与幻觉

提示的要素

 

 

1. 指令
2. 示例/上下文
3. 输入数据
4. 输出指示

寻找理想提示

 

 

 

请尝试：

• LLM 设置，如 temperature、max tokens
• 上下文学习与其他提示设计模式

 

用 playground 做实验！

提示管理

 

 

• 关键于提升效率、可复现性与协作
• 需跟踪：
  • 提示
  • 输出
  • 模型与设置
• 使用提示管理器或版本控制
• 开始收集可用于评估的优质输入-输出对

提示模板：提高复用性

开发周期

开发周期

Ayo berlatih!

LLMOps 概念