决策中的伦理考量

走近 Decision Science

Akshay Swaminathan

PD Soros Fellow at Stanford University School of Medicine

数据科学的责任

• 数据科学赋能各行业决策

• 合伦理的使用对信任与公平至关重要

 

案例研究：Optum

• Optum 的算法无意中偏向更健康的患者

  • 旨在预测护理需求，却优先考虑医疗花费更高者

• 偏见源于错误的数据假设

  • 以花费代替需求导致种族差异，使获得护理较少者处于不利

 

公平性

隐私与安全

透明性与可复现性

数据的社会影响

机器学习模型中的偏见

 

输入有偏 = 输出有偏

• 机器学习模型会反映训练数据中的偏见与缺口

 

公平可度量

• 按不同群体评估模型表现以检验公平性

数据保护

决策科学家与组织必须确保数据处理安全、负责

包括：

• 安全的基础设施与及时的防护
• 访问受限：各角色仅取最少所需数据
• 个人数据基于同意收集

重要性：

• 泄露会削弱信任
• 可能引发诉讼
• 损害声誉与盈利能力

透明性

 

确保清晰与问责

• 报告数据来源、清洗步骤、分析方法、采集指标与不确定性

可复现性

 

可复现性建立信任与公信力

• 他人应能用相同数据与方法重复分析并得出相同结果

将伦理置于决策科学之核

伦理考量是负责的决策科学的核心

• 伦理非可选，而是必需
• 优先考虑公平、公正与公益
• 在数据全生命周期贯彻伦理原则

让我们来练习！

走近 Decision Science