AI 的外部風險

AI 安全與風險管理

Angeline Corvaglia

Founder and Digital Transformation Expert

內部風險

來自 設計或資料

外部風險

外部攻擊者

• 操縱模型

 

• 鎖定不同面向

常見外部風險

• 對抗性輸入攻擊
• 資料毀損與投毒
• 模型竊取與反演
• 基礎設施攻擊
• 供應鏈攻擊

對抗性輸入攻擊

• 影響推論階段（遇到新資料時）
• 影響決策

例

• 輕微變造影像
• 導致誤分類

資料毀損與投毒

• 影響訓練階段
• 瞄準學習完整性

例

• 偽造商品評價
• 影響電商推薦系統

模型竊取與反演

• 針對敏感資訊
• 利用模型本身

例

• 以操控的輸入揭露訓練中使用的私密資料

基礎設施攻擊

• 鎖定實體與虛擬環境
• 攻擊基礎設施

例

• 以大量請求癱瘓 AI 伺服器，造成無法存取

供應鏈攻擊

• 危及元件或函式庫
• 利用 AI 模型的組件

例

• 在廣泛使用的函式庫中植入弱點

安全最佳做法

• 定期安全稽核
• 資料驗證與清理
• 強化存取控制
• 加密敏感資料
• 資料匿名化

更多最佳做法

• 持續監控
• 使用可信工具
• 定期更新工具
• 持續教育

風險快速演變

• 持續調適
• 持續學習
• 主動風險管理
• 保持警覺

一起來練習吧！

AI 安全與風險管理