資料倫理與 AI 倫理

資料倫理學入門

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

什麼是 AI？

以資料輸入與模型決策示意的 AI 圖示。

  • AI 結合演算法與穩健資料集解題
  • 強大的 AI 依賴大型資料集
  • 潛力巨大、亦有風險，需重視倫理
資料倫理學入門

資料是 AI 的燃料

以烹飪比喻說明資料對 AI 的重要性的插圖。

  • AI 模型需要海量資料，多數工作花在資料上
  • 資料不好，結果就不好
  • AI 倫理範圍廣於資料倫理，需理解異同
1 圖片來源：Andrew Ng 的網路研討會，MLOps: From Model-centric to Data-centric AI
資料倫理學入門

好的與更好的應用

語音助理喇叭、chatgpt 截圖與 Netflix 首頁拼貼。

  • 語音助理、對話式 AI
  • 電影推薦

乳房 X 光片，顯示兩個不同比例期的腫瘤

  • 善用 AI
  • 早期癌症診斷
  • 精準農業：減少用水與農藥
資料倫理學入門

壞的與可怕的風險

多則關於 AI 演算法歧視的新聞截圖拼貼

  • 求職、醫療可近性、司法審判的不公平
  • 成因眾多：偏誤資料集、複雜且不透明的黑箱模型、缺乏可解釋性
  • AI 倫理超越資料倫理
資料倫理學入門

AI 倫理兩難

AI 倫理超越資料倫理

  • AI 決策的影響：
    • 信用核准／貸款
    • 招募與錄用
  • AI 歧視
  • AI／機器人取代工作
  • 戰爭中機器人／無人機是否能減少人命傷亡？
  • 何謂「人類」？
  • 能否把道德規範寫進 AI？

一個指向相反方向的路標，背景為山景。

1 圖片來源：unsplash.com
資料倫理學入門

AI 應該怎麼做？

  • 自駕車突然煞車失靈
  • 繼續直行或轉向
  • 直行會撞死一女一男與一位年長女性
  • 轉向會撞死一位年輕女性與兩名兒童
  • 誰該負責？

自駕車倫理兩難的示意圖

1 https://moralmachine.mit.edu/
資料倫理學入門

AI 倫理指引重點

眾多組織正制定 AI 倫理指引

  • 人的主導與監督
  • 技術穩健與安全
  • 隱私與資料治理
  • 透明性
  • 多元、反歧視與公平
  • 環境與社會福祉
  • 責信與問責

AlgorithmWatch 的 AI 倫理指引清單畫面。

1 https://digital-strategy.ec.europa.eu/en/library/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment 2 https://inventory.algorithmwatch.org/
資料倫理學入門

資料的重疊處

  • 隱私、安全、資料保護
  • 偏誤與公平
  • 透明性
  • 問責

資料倫理與 AI 倫理重疊的示意圖

資料倫理學入門

一起來練習吧！

資料倫理學入門

Preparing Video For Download...