決策中的倫理考量

解密 Decision Science

Akshay Swaminathan

PD Soros Fellow at Stanford University School of Medicine

Data Science 的責任

• Data Science 讓各產業做出更好的決策

• 合乎倫理是建立信任與公平的關鍵

 

案例研究：Optum

• Optum 的演算法無意間偏袒較健康的病患

  • 原要預測照護需求，卻優先考量醫療支出較高者

• 偏誤源自有問題的資料假設

  • 以支出作為需求代理，導致種族差異，讓較難取得照護者處於不利

 

公平性

隱私與安全

透明與可再現性

資料的社會影響

機器學習模型的偏誤

 

輸入有偏＝輸出有偏

• 機器學習模型會反映訓練資料中的偏誤與缺口

 

公平性可量化

• 評估不同群體的模型表現來檢視公平性

保護資料

決策科學家與組織必須確保資料處理安全且負責

包含：

• 具備最新防護的安全基礎設施
• 存取受限：各角色僅取用必要最少資料
• 個人資料以同意為基礎蒐集

重要原因：

• 外洩會削弱信任
• 可能引發訴訟
• 損害名譽與獲利

透明性

 

確保清楚與可被追責

• 回報資料來源、清理步驟、分析方法、蒐集的指標與不確定程度

可再現性

 

可再現性建立信任與公信力

• 他人應能用相同資料與方法重做分析，並得到相同結果

把倫理放在決策科學核心

倫理考量是負責任決策科學不可或缺的一環

• 倫理不是可有可無，而是必要
• 將公平、正義與公益置於優先
• 在資料生命週期各階段落實倫理原則

一起來練習吧！

解密 Decision Science