意思決定における倫理的配慮

意思決定サイエンスをひも解く

Akshay Swaminathan

PD Soros Fellow at Stanford University School of Medicine

データサイエンスの責任

  • データサイエンスは業界横断で意思決定を支えます

  • 倫理的な活用は信頼と公平性の要です

  倫理

意思決定サイエンスをひも解く

ケーススタディ：Optum

  • Optum のアルゴリズムは意図せず健康な患者を優遇

    • 受療ニーズ予測のため設計されたが、高額医療費の患者を優先

  • 偏りは誤ったデータ仮定から発生

    • 費用をニーズの代替指標としたことで、人種間の格差を生み、受療機会の少ない層を不利に

  Optum

意思決定サイエンスをひも解く

公平性

公平性

プライバシーとセキュリティ

プライバシー

透明性と再現性

透明性

データの社会的影響

社会的影響

意思決定サイエンスをひも解く

機械学習モデルのバイアス

  バイアスのあるデータ

Bias in = Bias out

  • 機械学習モデルは学習データの偏りや欠落を反映します

 

公平性は測定可能

  • グループ別の性能を評価し、公平性を検証します
意思決定サイエンスをひも解く

データの保護

意思決定サイエンティストと組織は、安全で責任あるデータ取扱いを徹底します

含まれる要素：

  • 最新の保護を備えた安全なインフラ
  • アクセス制御：役割ごとの最小限データのみ
  • 個人データの同意に基づく収集

重要な理由：

  • 侵害は信頼を損なう
  • 訴訟につながり得る
  • 風評・収益に悪影響

データ保護

意思決定サイエンスをひも解く

透明性

 

明確性と説明責任を確保します

  • データ源、前処理、分析手法、収集指標、不確実性を報告

再現性

 

再現性は信頼と信頼性を築きます

  • 同じデータと手法で他者が同じ結果を再現できるべきです
意思決定サイエンスをひも解く

意思決定科学の中心にある倫理

倫理的配慮は責任ある意思決定科学に不可欠です

  • 倫理は任意ではなく必須
  • 公平・公正・公益を優先
  • データライフサイクル全体で倫理を適用

倫理の要点

意思決定サイエンスをひも解く

練習してみましょう！

意思決定サイエンスをひも解く

Preparing Video For Download...