アルゴリズムのバイアス

データバイアスを攻略する

Konstantinos Kattidis

Data Analytics Lead

AI とデータのバイアス

AI にはさまざまな用途があります:

  • パーソナライズ推薦
  • 経路ナビゲーション

 

アルゴリズムが特定の集団（性別や人種など）に対して偏ると何が起こるでしょうか？

AI の利用例

データバイアスを攻略する

アルゴリズムのバイアス

アルゴリズムのバイアス

アルゴリズムのバイアスは、特定の集団を優遇し他を不利にする、体系的かつ反復的な誤りにより不公平な結果が生じることです

  • これは、アルゴリズムの開発・運用中に生じうる様々なバイアスを含みます
データバイアスを攻略する

学習時のバイアス

  • 多くの場合、データ収集の偏りが発端となります
  • 学習データが代表性に欠ける／偏っていると、アルゴリズムはその偏りを学習・増幅します
  • 例: 顔認識で多様な集団が十分に含まれていない

選択バイアス

データバイアスを攻略する

特徴量選択のバイアス

特徴量選択のバイアス

  • 特徴量選択のバイアスは、選択基準により不公平・差別的結果を招く特徴量を採用してしまうと発生します
  • 例: 人種、性別などの保護属性
  • 例: 与信審査アルゴリズムが、収入のみを唯一の要因と仮定する
データバイアスを攻略する

評価バイアス

  • アルゴリズムのテスト段階で非代表的なデータを使うと、評価バイアスが生じることがあります
  • 例:
    • 映画推薦アルゴリズム
    • 1つのジャンルだけで性能を評価
    • 恋愛やコメディなど他ジャンルで弱い可能性を見落とす

評価バイアス: 1つのジャンル群のみでテスト

データバイアスを攻略する

自動化バイアス

MRI 診断の自動化

人は自動化システムに過度に依存しがちである傾向

  • 例:
    • MRI などの医用画像を解析する診断システム
    • 結果を確認・検証せずに鵜呑みにすると自動化バイアスが生じる
    • その結果、誤診につながる可能性
データバイアスを攻略する

Let's practice!

データバイアスを攻略する

Preparing Video For Download...