降低 AI 风险

AI for Work 入门

James Chapman

AI Curriculum Manager, DataCamp

缓解知识捏造

 

保持"信任但核实"的心态

• 始终复核关键信息
  • 📈 数字与数据点
  • 📖 引用与参考
  • 🏛 历史事实与日期
  • 💻 技术细节

为何 AI 夸大其词

• AI 模型生成最可能的下一个词
• 在其训练数据中，"我不知道" 统计上很少见

¹ https://openai.com/index/why-language-models-hallucinate/

引导 AI 承认不确定性

 

🤝 允许保留："若无把握，请说'我不知道'，不要猜测。"

🎯 校准："为每个断言标注：有把握 / 不确定 / 推断。"

📚 引用或标注："每条事实性断言，给出来源或标注为无来源。"

 

🧹 自检："列出可能有误或你做出的假设。"

🧭 限定范围："将回答限制在输入直接陈述的内容。不要外推。"

缓解时效性缺陷

 

• 始终检查知识截止日期

• 核实其后的所有事件

  • 💰 价格
  • 🏛 法规
  • 👷 人事变动
  • 📰 新闻

• 🌐 使用网页浏览支持

缓解偏见输出

 

• 批判性审查输出

  • 🤝 招聘材料
  • ✨ 市场营销内容
  • 👉 决策

• ❗ 偏见检测工具

缓解迎合式输出

 

• 🧭 引导 AI 保持客观与批判
• 🤔 对 AI 输出保持怀疑
• 💬 明确请求批判性反馈
  • 此方法可能存在哪些问题？
  • 对此问题有哪些其他观点？

缓解隐私与数据暴露

 

• 切勿共享：
  • 🔑 密码或凭据
  • 🔍 客户个人数据（如 PII）
  • 📣 公司专有信息
  • 📜 机密策略或计划

 

• 经验法则：若不适合公开发布，就不要粘贴到通用 AI 工具中

AI 安全清单

AI 安全清单

AI 安全清单

AI 安全清单

AI 安全清单

AI 安全清单

Ayo berlatih!

AI for Work 入门