负责任的数据维度

负责任的 AI 数据管理

Maria Prokofieva

Lead ML Engineer

负责任的数据管理

• 伦理性的数据管理
• 用技术指标评估模型
• 负责任的 AI

本课程将涵盖

• 介绍负责任 AI 的维度与指标
• 将概念应用于现实场景
• 法规与许可概览
• 数据治理与获取
• 验证与偏差缓解

合法性

• 遵守法律与法规
• 确保数据被正确收集、处理和使用
• 部分法律与法规包括：
  • 数据保护法
  • 人权法
  • 面向利益相关方的伦理规范
  • 可能因机构或国家而异

务必确认适用范围！

公平性

• 算法与数据实践不应制造不平等
• 公平对待所有人，不歧视

透明性与问责

• 数据如何使用
• 模型如何开发
• 决策如何做出
• 解释 AI
• 建立利益相关方信任

多样性与包容

• 数据多样性
• 多元视角与经验
• 偏差缓解的关键

隐私与安全

• 保护个人与敏感数据
• 尊重并维护个人权利
• 防止未经授权访问数据与模型

亚马逊 AI 招聘工具

• 亚马逊：2015-2017 年
• 自动化人才招聘
• 用 AI 评估求职者
• 引发丑闻并终止项目

¹ Reuters: https://www.reuters.com/article/idUSKCN1MK0AG/

AI 模型的挑战

问题出在哪？

• 非性别中立
• 训练数据失衡
• 仅用技术指标评估 AI

¡Vamos a practicar!

负责任的 AI 数据管理