AI 的界限與限制

職場 AI 入門

James Chapman

AI Curriculum Manager, DataCamp

風險 1: 知識捏造

  • 或稱為幻覺:AI{{1}} 將錯誤資訊當成正確的資訊呈現
  • 常見範例:
    • 統計數據錯誤
    • 虛假引用
    • 虛構事件

hallucination1.jpg

職場 AI 入門

風險 1: 知識捏造

  • 或稱為幻覺:AI 將錯誤資訊當成正確的資訊呈現
  • 常見範例:
    • 統計數據錯誤
    • 虛假引用
    • 虛構事件

hallucination2.jpg

職場 AI 入門

風險 1: 知識捏造

hallucination3.jpg

職場 AI 入門

風險 2: 資訊滯後

  • 知識截止日 → 模型掌握事件資訊的時間範圍
  • 範例:

    • 過時的法規、價格、地點資訊及程式語法
  • 透過最新資料來源,確認資訊是否仍然有效

  • 許多 AI 工具也支援 網路搜尋

recency.png

職場 AI 入門

風險 3: 偏見輸出

biased.png

  • 反映並加劇訓練資料{{1}}中的社會偏見
  • 結果 → 刻板印象或歧視性內容
  • 請務必仔細審查 AI 生成的內容!
職場 AI 入門

風險 4: 過度迎合的輸出

  • 過度迎合 → 提供符合您期待的回應

    • 附和觀點,支持決策,迎合想法
  • 當您需要批判性見解{{3}}時,這可能帶來問題

sycophancy.png

職場 AI 入門

風險 4: 過度迎合的輸出

  • 過度迎合 → 提供符合您期待的回應

    • 附和觀點,支持決策,迎合想法
  • 當您需要批判性見解時,這可能帶來問題

  • 大型語言模型訓練根據人類對回應的評價進行訓練後所衍生的結果

sycophany_research.png

1 https://arxiv.org/abs/2510.01395
職場 AI 入門

風險 5: 隱私與資料洩露

privacy.png

  • 分享給 AI 工具的資訊可能無法保密!
  • 上傳試算表、文件或客戶資料可能存在隱私風險
  • 資料可能儲存在外部伺服器上,用於模型訓練或出現在搜尋結果中
職場 AI 入門

風險 5: 隱私與資料洩露

crying.png

風險

  • 違反隱私權法(例如 GDPR)
  • 失去競爭優勢
  • 違背客戶信任
  • 務必查看 AI 工具的資料政策
  • 如有疑問,請諮詢 IT 或資訊安全專家
職場 AI 入門

將風險轉化為責任

risks_summary_v2.png

car.png

職場 AI 入門

讓我們來練習吧!

職場 AI 入門

Preparing Video For Download...