AI 的邊界與侷限

職場 AI 入門

James Chapman

AI Curriculum Manager, DataCamp

風險 1： 知識捏造

• 或稱為幻覺：AI{{1}} 將虛假資訊當作正確的資訊呈現
• 常見範例：
  • 捏造資料
  • 編造引用
  • 虛構事件

風險 1： 知識捏造

• 或稱為幻覺：AI 將虛假資訊當作正確的資訊呈現
• 常見範例：
  • 捏造資料
  • 編造引用
  • 虛構事件

風險 1： 知識捏造

風險 2： 資訊滯後

• 知識截止日期 → 模型知識的時間邊界

• 範例：

  • 過時的法規、價格、地點資訊和程式碼語法

• 透過最新來源核實時效性較強的資訊

• 許多 AI 工具也支援 網路搜尋

風險 3： 偏見輸出

• 反映甚至放大訓練資料{{1}}中的社會偏見
• 結果 → 刻板印象或歧視性內容
• 請務必仔細審閱 AI 生成的內容！

風險 4： 過度迎合的輸出

• 過度迎合 → 輸出一些它認為你想聽的話

  • 認同觀點，支持決策，肯定想法

• 當你需要批判性視角{{3}}時，這會成為問題

風險 4： 過度迎合的輸出

• 過度迎合 → 輸出一些它認為你想聽的話

  • 認同觀點，支持決策，肯定想法

• 當你需要批判性視角時，這會成為問題

• 大型語言模型訓練方式（基於對 AI 回覆的人工評分）的非預期副產品

¹ https://arxiv.org/abs/2510.01395

風險 5： 隱私與資料洩露

• 與 AI 工具分享的資訊可能不會保持私密！
• 上傳電子表格、文件或客戶資料可能帶來風險
• 資料可能儲存在外部伺服器上，用於模型訓練，或可被搜尋到

風險 5： 隱私與資料洩露

風險

• 違反隱私法規（例如 GDPR）
• 喪失競爭優勢
• 損害客戶信任

• 務必查看 AI 工具的資料政策
• 如有疑問，請諮詢 IT 或資訊安全專家

化風險為責任

一起來練習吧！

職場 AI 入門