AI 的边界与局限

AI for Work 入门

James Chapman

AI Curriculum Manager, DataCamp

风险 1：知识捏造

 

• 又称幻觉：AI 将错误信息当作正确信息呈现
• 常见示例：
  • 统计数据不正确
  • 伪造引用
  • 虚构事件

风险 1：知识捏造

 

• 又称幻觉：AI 将错误信息当作正确信息呈现
• 常见示例：
  • 统计数据不正确
  • 伪造引用
  • 虚构事件

风险 1：知识捏造

风险 2：时效性缺失

 

• 知识截止日期 → 模型对事件了解的时间上限

• 示例：

  • 过时的法规、价格、地点和代码语法

• 对时效性事实请查当前来源

• 许多 AI 工具也支持联网搜索

风险 3：偏见输出

 

• 会反映并放大其训练数据中的社会偏见
• 结果 → 刻板或歧视性内容
• 务必仔细审阅 AI 生成内容！

风险 4：逢迎式输出

 

• 逢迎 → 说它以为您想听的话

  • 迎合观点、支持决策、肯定想法

• 当需要批判性视角时会带来问题

风险 4：逢迎式输出

 

• 逢迎 → 说它以为您想听的话

  • 迎合观点、支持决策、肯定想法

• 当需要批判性视角时会带来问题

• 源于 LLM 以人工评分训练的副产物

 

¹ https://arxiv.org/abs/2510.01395

风险 5：隐私与数据暴露

 

• 与 AI 工具共享的信息可能不保密！
• 上传表格、文档或客户数据存在风险
• 数据可能存于外部服务器、用于训练或可被检索

风险 5：隐私与数据暴露

 

风险

• 违反隐私法（如 GDPR）
• 失去竞争优势
• 损害客户信任

 

• 始终查看 AI 工具的数据政策
• 如有疑问：咨询 IT 或信息安全专家

从风险到责任

 

Vamos praticar!

AI for Work 入门