自動化決策與側寫

理解 GDPR

Shalini Kurapati, CIPP/E

Co-founder and CEO, Clearbox AI

AI：合法性、公平與透明

• 合法依據
• 公平與歧視——推斷個人資料
• 透明性
• 特別規定——第 22 條

第 22 條

• 公平與反歧視義務
• 第 22 條——自動化個別決策（含側寫）
• 人為介入與解釋之權利

¹ 圖片來源：flaticon.com

側寫（Profiling）

• 分析與預測行為、大規模處理、使用 AI／機器學習
• 辨識並連結行為與屬性
• 建立側寫，並依側寫預測行為
• 範例：
  • 治療成功率
  • 再犯風險

¹ 資訊專員辦公室（Information Commissioner's Office）

與側寫相關的倫理疑慮

• 複製或強化偏見
• 設計、資料、內在複雜度／黑箱
• 性別、種族歧視

¹ 圖片來源：bbc.com、propublica.com、techcrunch.com

知名的側寫案例

• 320,000 名使用者為「學術研究」做了線上性格測驗
• 蒐集使用者朋友的個資，未經同意取得多達 5,000 萬筆
• 性格／政治側寫，向可能改變想法者投放精準廣告
• 在美、英與全球多場選舉中使用

¹ 圖片來源：The Guardian

自動化決策

• 無人介入的自動化決策
• 可能涉及或不涉及側寫
• 任意資料型態——問卷、定位、側寫
• 範例：自動化履歷篩選

¹ ARTICLE 29 WORKING PARTY《依規則 2016/679 之自動化個別決策與側寫指引》

銀行案例

• 自動化房貸決策
• AI 通常給出是／否，需要解釋與人為介入
• 建立機制以防偏誤，並修正與改進 AI 決策

一起來練習吧！

理解 GDPR