机器学习的局限

理解机器学习

Sara Billen

Curriculum Manager, DataCamp

数据质量

• 垃圾进，垃圾出
• 输出质量取决于输入质量

可能会出大问题的方式

亚马逊的性别偏见招聘工具

• 用于辅助筛选简历的招聘软件
• 因学习了历史上更常录用男性的数据而偏好男性
• 它会降低以下简历的评分
  • 含有"women"一词
  • 暗示申请者为女性

可能会出大问题的方式

微软的 AI 聊天机器人

注意

• 不要盲目信任模型
• 关键在于保持警觉
• 重视你的数据

$$

机器学习模型好坏取决于输入数据

质量保障

• 高质量数据需要：
  • 数据分析
  • 异常值审查
  • 领域专家参与
  • 文档记录

可解释性

可解释性

• 透明度以提升信任、清晰度和理解
• 用途：业务采纳、监管审查、减少偏差

可解释人工智能

黑箱

• 深度学习
• 更擅长回答"是什么？"
• 预测准确度高

可解释人工智能

• 传统机器学习
• 更擅长回答"为什么？"
• 人类可理解

示例：可解释人工智能

1. 预测：患者会得糖尿病吗？
2. 推断：原因是什么

示例：不可解释的 AI

仅预测：这最可能是哪一个字母？

Passons à la pratique !

理解机器学习