模型風險

AI 安全與風險管理

Angeline Corvaglia

Founder and Digital Transformation Expert

全生命週期的風險監控

開發期間

• 公平且精確的資料
• 能有效學習
• 缺陷系統上線的危害

部署之後

• 模型可能隨時間改變（漂移）
• 導致偏差或不精確的輸出

七大常見模型風險

 

 

• 模型不透明、不可解釋
• 偏差
• 幻覺
• 模型漂移
• 過度擬合
• 擬合不足
• 資料洩漏

 

 

透明度

• AI 模型如何做出決策

可解釋性

• 為何模型產生特定輸出

在醫療、金融等敏感領域

• 決策過程
• 與決策本身同樣重要

偏差

不公平的偏好或成見

• 有偏的訓練資料
• 演算法
• 代表性不足或有瑕疵的資料
• 人為假設

需偵測並緩解，才能打造公平、合乎倫理的 AI 系統

幻覺（Hallucination）

可能原因眾多：

• 訓練資料不足
• 假設不正確
• 資料中存在偏差

模型漂移

原本精準

• 失去關聯性
• 準確度下降

模型會困惑：

• 資料不同
• 資料內的模式改變

有效且精準的學習

過度擬合

• 學到過多細節

擬合不足

• 過於簡單而學不會

資料洩漏

• 訓練納入了不該出現的外部資料

可解釋 AI（XAI）

 

• 方法與技術
• 人可理解的決策
• 說明模型輸出背後的推理

更健全、公平且安全的 AI 系統

 

• 安全措施
• 負責任的開發
• 長期影響

應造福所有人

 

一起來練習吧！

AI 安全與風險管理