データのバイアスにどう対処するか

データ倫理入門

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

バイアスとは

偏った判断のイラスト

  • データ倫理でまず考えること
  • 個人・集団・考えへの先入観／偏見＝不公平
  • データ倫理＝データのバイアス
  • 過小・過大・誤った代表性
  • バイアスのあるデータで意思決定すると有害
1 Icon made by noomtah from www.flaticon.com
データ倫理入門

いつでもどこでも

  • データとライフサイクルの全段階で
  • 収集
  • クリーニング・前処理・開発
  • ラベリング

データライフサイクル各段階のバイアスが偏ったアルゴリズムに流れ込むイラスト

データ倫理入門

データ特有のバイアス

  • 技術・統計プロセスのバイアス

    • サンプリング偏り：代表性
    • 測定バイアス
    • 自己申告バイアス
    • ラベリングバイアス

  • 人間・制度的バイアス

    • ジェンダー
    • 人種／少数派
    • 文化

実物の像と歪んだ像の比較イラスト

1 Icon made by Flowicon from www.flaticon.com
データ倫理入門

代表性が重要

白いマスクを着けたJoyの写真があるTEDトークのスクリーンショット

  • 代表性の欠如
  • 顔認識：白いマスクで精度向上
  • ハンドソープから医療まで影響
  • 推薦：Coded Bias
1 https://www.ted.com/talks/joy_buolamwini_how_i_m_fighting_bias_in_algorithms
データ倫理入門

偏見の鏡

男性は胸の圧迫、女性は背中の痛みといった心筋梗塞症状の違いのイラスト

  • 医学研究とデータは歴史的に白人男性中心
  • 例：心筋梗塞の症状は男女で異なる
  • そのデータで診断アプリを作ると？
1 https://womeningh.org/
データ倫理入門

深刻な影響

男性と女性の心筋梗塞症状に対する医療アプリ診断のスクリーンショット

  • 心筋梗塞症状：男性は救急、女性はパニック障害と診断
データ倫理入門

数え切れないほど存在

各種認知バイアスのイラスト

1 CC BY, John Manoogian III (JM3)
データ倫理入門

氷山の一角

氷山の一角：上に統計的バイアス、下に人間・制度的バイアスのイラスト

  • 統計的バイアスは氷山の一角
  • 人間・制度的バイアス：態度と社会の変化が必要
  • テスト、予防・緩和、フィードバック受容
1 Schwartz, R. , Vassilev, A. , Greene, K. , Perine, L. , Burt, A. and Hall, P. (2022), Towards a Standard for Identifying and Managing Bias in Artificial Intelligence, National Institute of Standards and Technology
データ倫理入門

Ayo berlatih!

データ倫理入門

Preparing Video For Download...