責任あるデータの観点

責任あるAIデータマネジメント

Maria Prokofieva

Lead ML Engineer

責任あるデータ管理

• 倫理的なデータ管理
• 技術的指標でモデルを評価
• 責任あるAI

このコースで学ぶこと

• 責任あるAIの観点と指標を紹介
• 概念を実社会に適用
• 規制とライセンシングの概観
• データガバナンスと取得
• 検証とバイアス緩和

適法性

• 法令・規制への準拠
• 収集・処理・利用を正しく行う
• 代表的な法令・規制：
  • データ保護法
  • 人権法
  • ステークホルダーへの倫理規範
  • 管轄や国で異なる場合あり

必ず適用範囲を確認すること

公平性

• アルゴリズムやデータ実務で不平等を生まない
• 差別なく公正に扱う

透明性と説明責任

• データの利用方法
• モデルの開発方法
• 意思決定の方法
• AIの説明
• ステークホルダーの信頼構築

多様性とインクルージョン

• データの多様性
• 多様な視点と経験
• バイアス緩和の要

プライバシーとセキュリティ

• 個人・機微データの保護
• 個人の権利を尊重・保護
• 不正アクセスからデータとモデルを守る

AmazonのAI採用ツール

• Amazon: 2015～2017年
• 人材採用の自動化
• 応募者をAIでスコアリング
• 不祥事となり計画は中止

¹ Reuters: https://www.reuters.com/article/idUSKCN1MK0AG/

AIモデルの課題

何が問題だったのか

• ジェンダー中立でない
• 学習データが不均衡
• 評価が技術指標に偏重

練習してみましょう！

責任あるAIデータマネジメント