防範 AI 風險

職場 AI 入門

James Chapman

AI Curriculum Manager, DataCamp

防範知識捏造

信任並審慎求證的態度

  • 查證關鍵資訊不馬虎
    • 📈 數字與資料
    • 📖 引用與參考文獻
    • 🏛️ 歷史事實與日期
    • 💻 技術細節

hallucination1.jpg

職場 AI 入門

AI 為何被過度推崇

next_word_prediction.png

  • AI 模型預測最可能出現的下一個詞
  • 在訓練資料中,「我不知道」 在統計上很少見
1 https://openai.com/index/why-language-models-hallucinate/
職場 AI 入門

引導 AI 承認不確定性

🤝 棄權:「如果你不確定,與其猜測,不如表示『我不知道』。」

🎙️ 校準:「將每項論點標記為:確定 / 不確定 / 推論得出。」

📚 引用或標註:「為每項事實陳述附上來源,若無來源,請標註無來源。」

🧹 自我檢核通過:「列出所有可能有誤或未經證實的內容。」

🧭 限定範圍:「僅根據輸入內容中明確提及的資訊作答。 請勿輕率下結論。」

職場 AI 入門

避免「資訊滯後」

  • 隨時確認知識截止日
  • 查證所有資訊的正確性

    • 💰 價格
    • 🏛️ 監管規定
    • 👷 人事變動
    • 📰 新聞
  • 🌐 使用網頁瀏覽支援

recency.png

職場 AI 入門

防範偏見輸出

  • 以批判性思維檢視成果

    • 🤝 徵才資料
    • ✨ 行銷內容
    • 👉 決策
  • ❗偏見偵測工具

biased.png

職場 AI 入門

防範過度迎合的輸出

  • 🧭 引導 AI 進行客觀且批判性的分析
  • 🤔 審慎看待 AI 生成的內容
  • 💬 明確要求提出批判性回饋
    • 這種方法有哪些潛在問題?
    • 針對這個問題,是否有其他看法?

sycophancy.png

職場 AI 入門

防範隱私與資料暴露

  • 請勿分享:
    • 🔑 密碼或登入憑證
    • 🔍 客戶個人資料(例如,PII)
    • 📣 公司的機密資訊
    • 📜 機密策略或計畫
  • 經驗法則:如果您不願公開發布某項資訊,避免將其提供給一般 AI 工具

privacy.png

職場 AI 入門

AI 安全檢查清單

checklist1.jpg

職場 AI 入門

AI 安全檢查清單

checklist2.jpg

職場 AI 入門

AI 安全檢查清單

checklist3.jpg

職場 AI 入門

AI 安全檢查清單

checklist4.jpg

職場 AI 入門

AI 安全檢查清單

checklist4_5.jpg

職場 AI 入門

AI 安全檢查清單

checklist5.jpg

職場 AI 入門

讓我們來練習吧!

職場 AI 入門

Preparing Video For Download...