AIのリスク評価フレームワーク

AIセキュリティとリスク管理

Angeline Corvaglia

Founder and Digital Transformation Expert

形式的なリスク評価

• 何を含むか
• なぜ重要か
• どのように取り組みを導くか

継続的な内部統制と相互牽制と組み合わせる

利点は何か

• 潜在的リスクの基礎理解
• 包括的視点
• 変化への適応性
• 法令・規制の遵守

リスク評価の要素

1. 可能なリスクを特定
2. リスクを分析
3. 深刻度と許容度を評価
4. リスクを管理・低減・除去する戦略を策定

EU AI法

リスク評価は要（かなめ）

• リスク：許容不可
• 高リスク
• 限定的リスク
• 最小リスク

高リスクAIシステムには

• リスク評価
• リスク管理体制

内部統制と相互牽制

• 新たなリスクや想定外の挙動を捕捉
• リスク評価に基づき設定
• 早期警戒として機能

例：

• 定期的なバイアス検証
• 性能の劣化

チェックリスト消化ではない

• リスク評価は道筋を示す

• 内部統制と相互牽制がガードレールとなる

有効なリスク管理

• 継続的な監視
• 形式的な統制で支援

Ayo berlatih!

AIセキュリティとリスク管理