AI 風險評估

AI Strategy 策略

Vidhi Chugh

AI strategist and ethicist

道德防護欄

 

• UNESCO
  • 需要防護欄
  • 避免偏誤與歧視等風險
  • 基本人權

 

¹ https://www.unesco.org/en/artificial-intelligence/recommendation-ethics

AI 風險

 

• National Institute of Standards and Technology (NIST)

  

 

• 發生機率
• 後果嚴重度

¹ https://www.nist.gov/artificial-intelligence

資料風險

• 資料隱私
  • 敏感資訊

• 資料偏誤
  • 強化社會偏見  

AI 失靈案例

 

• 性別偏誤

 

• 種族歧視

資料隱私外洩

• 違反 GDPR 將遭重罰
• 非法處理資料
• 為臉部辨識擷取網路圖片

 

商業影響

法律

商業影響

法律、聲譽

商業影響

法律、聲譽與財務損害。

倫理框架

倫理框架

倫理框架

風險評估四大支柱

                隱私

                公平

             透明

             問責

法規與合規

• AI 專案生命週期

• 法規與合規
  • 問責需有治理機制
  • 明確定義角色與職責
  • 符合資料隱私法規
  • 取得使用者同意並匿名化資料

資料蒐集與準備

評估

• 內部可用或需外購？
• 是否含個人識別資訊（PII）等敏感資料？
• 族群代表性是否充分？

緩解

• 建立資料完整性流程
• 標識符加密、產生合成資料
• 建立平衡資料

模型開發與評估

• 說明模型結果
  • 解釋與偏誤辨識
  • 各類別一視同仁

模型部署與監控

 

• 影響程度

• 建立緩解策略

 

 

• 醫療與金融的成本較高

• 重新校準模型行為

 

一起來練習吧！

AI Strategy 策略