数据伦理与人工智能伦理

数据伦理入门

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

什么是AI？

展示AI接收数据并做出决策的示意图。

  • AI用算法与高质量数据集解题
  • 强大的AI依赖海量数据
  • 潜力巨大、利弊并存，需考虑伦理
数据伦理入门

数据是AI的燃料

用烹饪类比展示数据之于AI的重要性。

  • AI模型需要海量数据，大部分工作在数据上
  • 数据差则AI效果差
  • AI伦理比数据伦理更广，需理解相同点与差异
1 图片来源：Andrew Ng 的网络研讨会《MLOps: From Model-centric to Data-centric AI》
数据伦理入门

好的与卓越的应用

语音助手音箱、ChatGPT 截图与 Netflix 首页的拼贴。

  • 语音助手、对话式AI
  • 电影推荐

一张乳腺X光片，显示两个不同生长阶段的肿瘤

  • AI向善
  • 早期癌症诊断
  • 精准农业：减少用水与农药
数据伦理入门

坏与丑

多条关于AI算法歧视的新闻截图拼贴

  • 招聘、医疗获取与公正审判中的歧视
  • 多种原因：偏见数据集、复杂且黑箱的模型、缺乏可解释性
  • AI伦理超越数据伦理
数据伦理入门

AI伦理难题

AI伦理超越数据伦理

  • AI决策的影响：
    • 信贷/贷款获取
    • 招聘
  • AI歧视
  • AI/机器人取代工作
  • 机器人/无人机会在战争中减少伤亡吗？
  • 何谓"人类"？
  • 能将道德编码进AI吗？

一块路牌指向相反方向，背景是群山。

1 图片来源：unsplash.com
数据伦理入门

AI该如何抉择？

  • 自动驾驶突发刹车失灵
  • 直行还是转向
  • 直行将致一女一男与一位年长女性死亡
  • 转向将致一名年轻女性与两名儿童死亡
  • 谁应承担责任？

自动驾驶汽车伦理难题的示意图

1 https://moralmachine.mit.edu/
数据伦理入门

AI伦理指南要点

众多机构制定AI伦理指南

  • 人类能动性与监督
  • 技术稳健性与安全
  • 隐私与数据治理
  • 透明性
  • 多样性、非歧视与公平
  • 环境与社会福祉
  • 问责

AlgorithmWatch 的AI伦理指南清单图示。

1 https://digital-strategy.ec.europa.eu/en/library/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment 2 https://inventory.algorithmwatch.org/
数据伦理入门

数据的重叠部分

  • 隐私、安全、数据保护
  • 偏见与公平
  • 透明性
  • 问责

数据伦理与AI伦理重叠关系示意图

数据伦理入门

让我们来练习！

数据伦理入门

Preparing Video For Download...