防范 AI 风险

职场 AI 入门

James Chapman

AI Curriculum Manager, DataCamp

防范知识捏造

信任但要核实的心态

• 始终对关键信息进行双重核实
  • 📈 数字和数据
  • 📖 引用和参考文献
  • 🏛️ 历史事实与日期
  • 💻 技术细节

为什么 AI 容易做出断言

• AI模型预测最可能出现的下一个词
• 在训练数据中，"我不知道" 在统计上很少见

¹ https://openai.com/index/why-language-models-hallucinate/

引导 AI 承认不确定性

🤝 允许不作答：“如果你不确定，就说‘我不知道’，不要猜测。”

🎙️ 置信度校准：“将每项陈述标记为：确定 / 不确定 / 推断。”

📚 提供来源或明确标注：“对于每项事实性陈述，请提供来源；如果没有来源，请明确标注。”

🧹 自我核查：“列出所有可能存在错误或属于假设的内容。”

🧭 限定范围：“将回答范围限定在输入内容直接提供的信息之内。 不做推断。"

防范信息滞后

• 始终检查知识截止日期

• 对之后的任何信息进行核实

  • 💰 价格
  • 🏛️ 监管规定
  • 👷 人事变动
  • 📰 新闻

• 🌐 使用网页浏览支持

防范偏见输出

• 以批判性视角审阅输出

  • 🤝 招聘材料
  • ✨ 营销内容
  • 👉 决策

• ❗ 偏见检测工具

防范过度迎合的输出

• 🧭 引导 AI 保持客观，并提供批判性分析
• 🤔 对 AI 输出结果保持怀疑
• 💬 明确要求批判性反馈
  • 这种方法可能存在哪些问题？
  • 对于这个问题，还有哪些不同的视角？

防范隐私与数据泄露

• 切勿分享：
  • 🔑 密码或登陆凭证
  • 🔍 客户个人数据（例如，PII）
  • 📣 公司的专有信息
  • 📜 机密策略或计划

• 经验法则：如果你不愿公开发布某条信息，就不要把它粘贴到普通的 AI 工具中

AI 安全检查清单

AI 安全检查清单

AI 安全检查清单

AI 安全检查清单

AI 安全检查清单

AI 安全检查清单

动手练一练！

职场 AI 入门