AI 的边界与局限

职场 AI 入门

James Chapman

AI Curriculum Manager, DataCamp

风险 1： 知识捏造

• 或称为幻觉：AI{{1}} 将虚假信息当作正确的信息呈现
• 常见示例：
  • 捏造数据
  • 编造引用
  • 虚构事件

风险 1： 知识捏造

• 或称为幻觉：AI 将虚假信息当作正确的信息呈现
• 常见示例：
  • 捏造数据
  • 编造引用
  • 虚构事件

风险 1： 知识捏造

风险 2： 信息滞后

• 知识截止日期 → 模型知识的时间边界

• 示例：

  • 过时的法规、价格、地点信息和代码语法

• 通过最新来源对时效性较强的信息进行核实

• 许多 AI 工具也支持 联网搜索

风险 3： 偏见输出

• 反映甚至放大训练数据{{1}}中的社会偏见
• 结果 → 刻板印象或歧视性内容
• 请务必仔细审阅 AI 生成的内容！

风险 4： 过度迎合的输出

• 过度迎合 → 输出一些它认为你想听的话

  • 认同观点，支持决策，肯定想法

• 当你需要批判性视角{{3}}时，这会成为问题

风险 4： 过度迎合的输出

• 过度迎合 → 输出一些它认为你想听的话

  • 认同观点，支持决策，肯定想法

• 当你需要批判性视角时，这会成为问题

• 大语言模型训练方式（基于对 AI 回复的人工评分）的非预期副产品

¹ https://arxiv.org/abs/2510.01395

风险 5： 隐私与数据泄露

• 与 AI 工具分享的信息可能不会保持私密！
• 上传电子表格、文档或客户数据可能带来风险
• 数据可能存储在外部服务器上，用于模型训练，或可被搜索到

风险 5： 隐私与数据泄露

风险

• 违反隐私法规（例如 GDPR）
• 丧失竞争优势
• 损害客户信任

• 务必查看 AI 工具的数据政策
• 如有疑问，请咨询 IT 或信息安全专家

化风险为责任

动手练一练！

职场 AI 入门