构思阶段

LLMOps 概念

Max Knobbout, PhD

Applied Scientist, Uber

LLM 生命周期：构思阶段

数据获取

 

 

• 明确需求

 

• 寻找来源

 

• 确保可访问性

数据获取

 

1. 数据是否相关？
2. 数据是否可得？
   • 转换数据
   • 建立附加数据库
   • 评估成本
   • 考虑其他访问限制
3. 数据是否达标？
   • 涵盖质量与治理

选择基础模型

• 预训练模型：

• 选专有还是开源？

专有模型（私有）

优势：

• 部署与使用便捷
• 质量保障
• 可靠、快速、可用性高

 

局限：

• 需暴露数据
• 定制受限

示例：

开源模型（公开可用）

优势：

• 自主托管
• 透明性
• 完全可定制

 

局限：

• 支持
• 商业使用

 

示例：

 

可下载自：

模型选择因素

1. 性能 ⭐

• 响应质量
• 速度

2. 模型特性 ⭐

• 训练数据
• 上下文窗口大小
• 微调能力

模型选择因素

3. 实用考量 ⭐

• 许可
• 成本
• 环境影响

4. 次要因素

• 参数量
• 热度

开始练习吧！

LLMOps 概念