バイアス軽減

責任あるAIデータマネジメント

Maria Prokofieva

Lead ML engineer

この章で扱う内容

• ライフサイクル全体の戦略
• リサンプリングと再重み付け
• 再ラベル付けと感度属性の除去
• アドバーサリアル学習と再キャリブレーション
• ユーザー行動
• 公平性制約とアルゴリズム選択
• 他の戦略も存在

バイアスのおさらい

• 体系的な誤りや偏見
• 集団・個人に不公平な結果

¹ Image by Streamline HQ

プロジェクト全体のバイアス

• 生データ内
• 前処理
• モデリング
• 運用後

前処理でのバイアス

• リサンプリング
• 再重み付け
• 再ラベル付け
• 感度属性の除去

前処理での戦略

• リサンプリング:
  • 分布を調整しクラスを均衡化
• 再重み付け:
  • クラス重みでバイアス補正（データ数は不変）
• 再ラベル付け:
  • 正確な目的変数となるようラベル更新
• 感度属性の除去:
  • 保護属性を削除

モデリングでのバイアス

• アルゴリズム由来のバイアス
• 逆学習（アドバーサリアル学習）
• 公平性制約
• 単純・堅牢・汎化性の高いモデルを選択

ファイナンシャルアドバイザー

• 地域の経済格差に起因するバイアス
• バイアス補正のためのアドバーサリアル学習
• 決定木や正則化線形モデル

¹ Image by Streamline HQ

運用後と利用時のバイアス

• バイアス監視でモデルドリフトを防止
• モデルの再キャリブレーション
• 不適切なアプリ利用

¹ Image by Streamline HQ

ファイナンシャルアドバイザー

モデルドリフト:

• フリーランス経済の過小代表

誤用:

• 財務情報の更新

¹ Image by Streamline HQ

Let's practice!

責任あるAIデータマネジメント