AI 特有的安全風險

AI 安全與風險管理

Angeline Corvaglia

Founder and Digital Transformation Specialist

風險管理的重要性

• 安全、負責地運用優勢
• 安全做法必須改變
• 傳統安全策略不夠用

把導入 AI 的影響想成一枚硬幣：

• 潛力
• 安全風險

隱微卻危險的風險

• 偏見
• 幻覺（Hallucination）
• 資料投毒
• 對抗式攻擊
• 敏感資料外洩

徵才系統中的 AI 偏見

1. 以歷史資料訓練 AI
2. 反映過去偏見
3. 放大偏見
4. 組織信任下滑

操縱網購平台

1. 具 AI 推薦系統的平台
2. 餵入假資料
3. AI 推薦冷門或有害商品
4. 衍生多種後果

AI 偏見

極速決策，放大偏見影響

可能不當傾斜或傷害

以驚人速度造成不均結果

幻覺（Hallucination）

• 把錯誤或誤導資訊包裝成真相

可能導致：

• 決策失準
• 錯誤資訊與信任流失

資料投毒

蓄意竄改訓練資料

使 AI 系統偏離正軌

• 錯誤預測或決策
• 後果重大

對抗式攻擊

提供誤導性的輸入

• 在運作期間
• 難以偵測
• 破壞完整性

敏感資料外洩

訓練與運作需大量資料。

若防護不足，有敏感資料外洩風險

理解風險，才能加以管理

主動式風險緩解

• 預先評估風險
• 熟悉 AI 安全生態系
• 讓 AI 安全具前瞻性
• 建立安全意識文化
• 了解模型內部與外部風險
• 讓 AI 安全與組織目標一致

開始深入吧！

AI 安全與風險管理