自动化决策与画像

读懂 GDPR

Shalini Kurapati, CIPP/E

Co-founder and CEO, Clearbox AI

AI：合法性、公平性与透明性

• 合法性依据
• 公平与反歧视——对个人进行推断
• 透明性
• 特别规定——第22条

第22条

• 公平与反歧视义务
• 第22条——自动化个体决策（含画像）
• 获得人工介入与解释的权利

¹ 图片来源：flaticon.com

画像（Profiling）

• 以AI/机器学习大规模分析与预测行为
• 识别并关联行为与属性
• 建立画像，并据此预测行为
• 例子：
  • 治疗成功率
  • 再犯风险

¹ 信息专员办公室（ICO）

与画像相关的伦理问题

• 传播或强化偏见
• 设计、数据及其复杂性/黑箱
• 性别、种族歧视

¹ 图片来源：bbc.com、propublica.com、techcrunch.com

著名的画像案例

• 32万名用户为"学术研究"参加线上性格测试
• 收集用户好友的个人数据，未经同意获取多达5000万条数据
• 性格/政治画像，向易受影响者投放定向广告
• 在美国、英国及全球多场选举中使用

¹ 图片来源：The Guardian

自动化决策

• 无人工参与的自动化决策
• 可能包含或不包含画像
• 任意数据类型：问卷、位置、画像
• 示例：自动化简历筛选

¹ 第29条工作组：《关于为实施法规2016/679而进行的自动化个体决策与画像》指南

银行示例

• 按揭的自动化审批
• AI通常给出是/否，需要可解释性与人工介入
• 防偏见、纠正并改进AI决策的机制

让我们来练习！

读懂 GDPR