AIリスク評価

Artificial Intelligence (AI) Strategy

Vidhi Chugh

AI strategist and ethicist

倫理的ガードレール

 

• UNESCO
  • ガードレールの必要性
  • バイアスや差別などのリスク防止
  • 基本的人権の保護

 

¹ https://www.unesco.org/en/artificial-intelligence/recommendation-ethics

AIリスク

 

• 米国国立標準技術研究所（NIST）

  

 

• 発生確率
• 結果の深刻度

¹ https://www.nist.gov/artificial-intelligence

データリスク

• データプライバシー
  • 機密情報

• データバイアス
  • 社会的バイアスの再生産  

AIの失敗事例

 

• 性別バイアス

 

• 人種差別

データプライバシー侵害

• GDPRへの違反による高額罰金
• データの違法処理
• 顔認識用画像のスクレイピング

 

ビジネスへの影響

法的リスク

ビジネスへの影響

法的・評判リスク

ビジネスへの影響

法的・評判・財務リスク

倫理的フレームワーク

倫理的フレームワーク

倫理的フレームワーク

リスク評価の主要な柱

                プライバシー

                公平性

             透明性

             説明責任

規制とコンプライアンス

• AIプロジェクトのライフサイクル

• 規制とコンプライアンス
  • 説明責任にはガバナンスが必要
  • 役割と責任の定義
  • データプライバシー規制への準拠
  • ユーザーの同意取得とデータの匿名化

データ収集と準備

評価

• 内部調達か外部調達か？
• 個人識別情報（PII）等の機密情報を含むか？
• 母集団は適切に代表されているか？

軽減

• データ整合性のためのプロセス
• 識別子の暗号化・合成データ生成
• バランスの取れたデータの作成

モデルの開発と評価

• モデルの結果を説明する
  • 説明とバイアスの特定
  • カテゴリ間の公平な扱い

モデルのデプロイと監視

 

• 影響の程度

• 軽減戦略の策定

 

 

• 医療・金融ではコストが高い

• モデルの動作の再調整

 

練習しましょう！

Artificial Intelligence (AI) Strategy