高リスクプロバイダーの義務

EU AI法を理解する

Dan Nechita

Lead Technical Negotiator, EU AI Act

意図された目的の概念

• AI法は開発者とユーザーの義務のバランスを取る
• 「意図された目的」の概念に基づく

意図された目的の概念

例：

• 動物識別AI

 

意図された目的の概念

例：

• 動物識別AI
• 生命保険の価格設定に使用
• 誤用は推奨されず、効果も見込めない
• システム開発会社にAI法上の義務なし
  • リスクなしのAIシステムとして構築
• 義務はデプロイヤーが負う

 

意図された目的の概念

適合性評価

 

高リスクAIシステムのプロバイダーは、安全性とコンプライアンスを確保するため「適合性評価」を実施・文書化する必要があります（自己評価も可）。

リスク管理とガバナンス

 

• リスクの特定・軽減のためのリスク管理システムが必要

 

• データガバナンス措置により、各グループへの影響を考慮した公平かつ目的に適したトレーニングデータを確保すること

 

ドキュメント

• コンプライアンスとトレーサビリティのために詳細な文書を作成し、記録管理を可能にすること
• 機能、適切な使用方法、制限事項、潜在的な誤用に関する情報をデプロイヤーに提供すること
• 人的監視を確保し、精度・堅牢性・サイバーセキュリティの対策を実施すること

その他の義務

コンプライアンスの確保

では、練習しましょう！

EU AI法を理解する