防範 AI 風險

職場 AI 入門

James Chapman

AI Curriculum Manager, DataCamp

防範知識捏造

信任但要核實的心態

• 始終雙重核實關鍵資訊
  • 📈 數字和資料
  • 📖 引用和參考文獻
  • 🏛️ 歷史事實與日期
  • 💻 技術細節

為什麼 AI 容易做出斷言

• AI 模型預測最可能出現的下一個詞
• 在訓練資料中，「我不知道」 在統計上很少見

¹ https://openai.com/index/why-language-models-hallucinate/

引導 AI 承認不確定性

🤝 允許不作答：「如果你不確定，就說『我不知道』，不要猜測。」

🎙️ 信賴度校準：「將每項陳述標記為：確定 / 不確定 / 推斷。」

📚 提供來源或明確標注：「對於每項事實性陳述，請提供來源；如果沒有來源，請明確標注。」

🧹 自我核查：「列出所有可能存在錯誤或屬於假設的內容。」

🧭 限定範圍：「將回答範圍限定在輸入內容直接提供的資訊之內。 不做推斷。」

防範資訊滯後

• 始終檢查知識截止日期

• 核實之後的任何資訊

  • 💰 價格
  • 🏛️ 監管規定
  • 👷 人事變動
  • 📰 新聞

• 🌐 使用網頁瀏覽支援

防範偏見輸出

• 以批判性視角審閱輸出

  • 🤝 招募材料
  • ✨ 行銷內容
  • 👉 決策

• ❗ 偏見檢測工具

防範過度迎合的輸出

• 🧭 引導 AI 保持客觀，並提供批判性分析
• 🤔 對 AI 輸出結果保持懷疑
• 💬 明確要求批判性回饋
  • 這種方法可能存在哪些問題？
  • 對於這個問題，還有哪些不同的視角？

防範隱私與資料洩漏

• 切勿分享：
  • 🔑 密碼或登入憑證
  • 🔍 客戶個人資料（例如，PII）
  • 📣 公司的專有資訊
  • 📜 機密策略或計畫

• 經驗法則：如果你不願公開發布某條資訊，就不要把它貼到普通的 AI 工具中

AI 安全檢查清單

AI 安全檢查清單

AI 安全檢查清單

AI 安全檢查清單

AI 安全檢查清單

AI 安全檢查清單

一起來練習吧！

職場 AI 入門