データ倫理とAI倫理

データ倫理入門

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

AIとは？

データ入力とモデル判断を伴うAIの概念図。

  • AIはアルゴリズムと堅牢なデータで課題を解く
  • 強力なAIは大規模データを用いる
  • 可能性は大、両刃の剣ゆえ倫理配慮が必要
データ倫理入門

データはAIの燃料

料理のたとえでAIにおけるデータの重要性を示す図。

  • AIモデルは大量データを要し、作業の大半はデータ対応
  • 質の悪いデータは悪い結果を生む
  • AI倫理はデータ倫理より広範、共通点と相違の理解が重要
1 写真出典: Andrew Ngのウェビナー「MLOps: From Model-centric to Data-centric AI」
データ倫理入門

良い面と驚異的な面

音声アシスタント端末、ChatGPT画面、Netflixホームのコラージュ。

  • 音声アシスタント、対話型AI
  • 映画レコメンド

異なる進行度の腫瘍が2つ写る乳房X線画像

  • AI for Good
  • 早期がん診断
  • スマート農業：水・農薬の削減
データ倫理入門

悪い面と深刻な面

AIアルゴリズムの差別に関するニュースのコラージュ

  • 採用、医療アクセス、公正な裁判での差別
  • 原因多数：偏ったデータ、複雑でブラックボックスなモデル、説明不足
  • AI倫理はデータ倫理を超える
データ倫理入門

AI倫理のジレンマ

AI倫理はデータ倫理を超える

  • AIの意思決定の影響
    • クレジット/融資の可否
    • 採用
  • AIによる差別
  • AI/ロボットによる雇用の代替
  • 戦争でロボット/ドローンは人命損失を減らすか？
  • 人間性とは何か？
  • 道徳をAIに実装できるか？

山を背に逆方向を指す道路標識の写真。

1 写真出典: unsplash.com
データ倫理入門

AIはどうすべきか？

  • 自動運転車で突然のブレーキ故障
  • 直進か回避操舵か
  • 直進→女性、男性、高齢女性が死亡
  • 回避→若い女性と子ども2人が死亡
  • 責任は誰にあるか？

自動運転車の倫理的ジレンマのイラスト

1 https://moralmachine.mit.edu/
データ倫理入門

AI倫理ガイドラインの要点

AI倫理ガイドラインに取り組む組織・機関は多数

  • 人間の主体性と監督
  • 技術的堅牢性と安全性
  • プライバシーとデータガバナンス
  • 透明性
  • 多様性・無差別・公正
  • 環境・社会の福祉
  • 説明責任

AlgorithmWatchのAI倫理ガイドライン一覧の画像。

1 https://digital-strategy.ec.europa.eu/en/library/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment 2 https://inventory.algorithmwatch.org/
データ倫理入門

データの重なり

  • プライバシー、セキュリティ、データ保護
  • バイアスと公正性
  • 透明性
  • 説明責任

データ倫理とAI倫理の重なりの図

データ倫理入門

練習してみましょう！

データ倫理入門

Preparing Video For Download...