自動化された意思決定とプロファイリング

GDPR を正しく理解する

Shalini Kurapati, CIPP/E

Co-founder and CEO, Clearbox AI

AI: 適法性・公平性・透明性

  • 適法性の根拠
  • 公平性と差別防止 ― 個人に関する推測
  • 透明性
  • 特別規定 ― 第22条
GDPR を正しく理解する

第22条

自動化プロセスのイラスト

  • 公平性と差別禁止の義務
  • 第22条 ― プロファイリングを含む自動化された個人に対する決定
  • 人による関与と説明を求める権利
1 画像出典: flaticon.com
GDPR を正しく理解する

プロファイリング

人物のプロフィールのイラスト。

  • 行動を分析・予測。大規模処理、AI/機械学習を活用
  • 行動と属性を特定・関連付け
  • プロファイル作成し、基づいて行動を予測
  • 例:
    • 治療成功率
    • 再犯リスク
1 Information Commissioner's Office
GDPR を正しく理解する

プロファイリングの倫理的懸念

性別や人種、スコアリングに基づくAIアルゴリズムのバイアスを示すニュースサイトのスクリーンショット。

  • バイアスの助長・固定化
  • 設計、データ、複雑性/ブラックボックス性
  • 性別・人種差別
1 画像出典: bbc.com, propublica.com, techcrunch.com
GDPR を正しく理解する

有名なプロファイリング事例

ケンブリッジ・アナリティカ問題を示す新聞グラフィックのスクリーンショット

  • 32万人が「学術研究」名目の性格テストを受験
  • 友人の個人データまで収集、同意なく最大5,000万件
  • 性格/政治的プロファイル作成、心変わりしやすい層に広告配信
  • 米英を含む世界各地の選挙で活用
1 画像出典: The Guardian
GDPR を正しく理解する

自動化意思決定

コンピュータが結果を決める自動化意思決定のイラスト。

  • 人の関与なく自動で下される決定
  • プロファイリングを伴う場合と伴わない場合がある
  • どの種のデータでも可（調査、位置、プロファイルなど）
  • 例: 自動CVスクリーニング
1 ARTICLE 29 WORKING PARTY Guidelines on Automated individual decision-making and Profiling for the purposes of Regulation 2016/679
GDPR を正しく理解する

銀行の例

一部の人に対し、融資の可否理由を説明できない銀行担当者のイラスト。

  • 住宅ローンの自動審査
  • AIは通常YES/NOのみ。説明と人の関与が必要
  • バイアス防止、是正、改善の仕組み
GDPR を正しく理解する

練習しましょう！

GDPR を正しく理解する

Preparing Video For Download...