业务、运营与伦理问题

面向商业的 Large Language Models

Iason Prassides

Content Developer, DataCamp

透明性

• 围绕 LLM 的透明度
• 企业需了解 LLM 如何得出答案
• 对建立信任至关重要

问责

• 若 LLM 的建议无效
  • 谁承担责任？
• 设计模型的软件开发者？
• 部署它的公司？

LLM 的风险

• 存在传播错误信息的内在风险
• 对企业的影响包括：
  • 基于错误数据决策
  • 影响利润底线
  • 损害声誉
• LLM 被武器化的风险：
  • 欺骗、操纵、误导相关方
  • 带来声誉与运营风险

LLM 与环境

• 训练 LLM 所需算力耗能巨大
• 产生高碳足迹
• 企业需了解并减轻环境影响

如何构建 LLM？

• 企业需权衡务实因素
• 自建 LLM 还是用第三方？

技术资源

自建

• 需要大量资源：算力基础设施与数据
• 能投入吗？资金与时间？

第三方

• 立即可用，易扩展
• 无开发开销

个性化 LLM

自建

• 按需定制 LLM
• 基于公司数据微调模型

第三方

• 性能成熟
• 模型更通用，除非做定制

更新与维护

自建

• 维护确保 LLM 有效且安全
• 持续成本

第三方

• 企业无需负责
• 供应商处理更新与维护

数据处理

自建

• 保持对数据的控制
• 处理敏感数据时尤为重要

第三方

• 可能需共享数据
• 存在安全与隐私风险

成本效益

自建

• 权衡经常性成本以确保成本效益
• 启动成本高

第三方

• 经常性成本
• 启动成本低

选择在你！

让我们来练习！

面向商业的 Large Language Models