算法中的偏见

征服数据偏差

Konstantinos Kattidis

Data Analytics Lead

AI 与数据偏见

AI 有多种应用：

• 个性化推荐
• 路线导航

 

当算法对某些群体（如性别或种族）产生偏见会怎样？

算法偏见

当算法产生系统性、可重复的错误，导致不公平结果、偏袒某一群体时，即为算法偏见

• 它涵盖算法开发与部署过程中可能出现的多种偏见

算法训练中的偏见

• 算法偏见常源于数据收集中的偏见
• 若训练数据不具代表性或存在偏差，算法会学习并放大这些偏见
• 例如：人脸识别算法中缺乏多元群体的充分代表

特征选择中的偏见

• 特征选择偏见：按某些标准选择特征，可能导致不公平或歧视性结果
• 如种族、性别等受保护属性
• 例如：用于预测贷款审批的算法若假定收入是唯一相关因素

评估偏见

• 在算法的测试阶段使用非代表性数据集会导致评估偏见
• 例如：
  • 电影推荐算法
  • 仅基于单一类型测试性能
  • 忽视其在爱情、喜剧等其他类型上可能表现不佳

自动化偏见

个体过度依赖自动化系统的倾向

• 例如：
  • 医学诊断系统用于分析医学影像，如 MRI
  • 若在未复核或确认结果的情况下盲信系统，即发生自动化偏见
  • 这可能导致误诊

Vamos praticar!

征服数据偏差