负责任 AI 的挑战

负责任的 AI 数据管理

Maria Prokofieva

Lead ML Engineer

真实世界中的负责任数据管理实践

 

• 复杂

 

• 涉及多种权衡

 

• 需专业判断

常见权衡

 

 

 

• 利润优先于公平与隐私

• 收入优先于测试与安全

预训练模型

• 降低成本

• 节省时间与资源

• 无需数据收集与训练

• 训练数据可能有偏

• 透明度不足

使用预训练模型

• 审查模型来源
• 良好声誉
• 可靠性
• 查看模型文档
• 进行公平与偏见额外测试

 

 

• 准确性优先于公平性
• 即使在平衡数据集上也是如此

准确性权衡

• 特定群体准确性更低
• 未考虑弱势群体的数据质量或数量
• 隐私会降低准确性

鲁棒性权衡

 

• 鲁棒性 vs 偏见

• 鲁棒性 vs 公平性

职业操守与注意义务

• 道德与行为准则

• 各国与组织指南不一

• 责任、不伤害、公平

• 保护用户隐私与机密性
• 促进社会正向影响
• 保持高标准
• 构建健壮且安全的系统
• 包容且非歧视

 

¹ https://www.acm.org/code-of-ethics

让我们来练习！

负责任的 AI 数据管理