AIの外部リスク

AIセキュリティとリスク管理

Angeline Corvaglia

Founder and Digital Transformation Expert

内部リスク

設計やデータ内

外部リスク

外部の攻撃者

• モデルを操作

 

• 多様な側面を標的

一般的な外部リスク

• 逆行攻撃（敵対的入力）
• データ改ざん・ポイズニング
• モデル窃取・反転
• インフラ攻撃
• サプライチェーン攻撃

敵対的入力攻撃

• 推論段階（新規データ処理時）に影響
• 意思決定に干渉

例

• 画像を微妙に変更
• 誤分類

データ改ざん・ポイズニング

• 学習段階に影響
• 学習の完全性を狙う

例

• 偽の製品レビュー
• ECのレコメンドに影響

モデル窃取・反転

• 機微情報を狙う
• モデル自体を悪用

例

• 細工した入力で学習に使った個人情報を推定

インフラ攻撃

• 物理・仮想環境を標的
• インフラを攻撃

例

• 大量リクエストでAIサーバーを飽和させ、利用不能にする

サプライチェーン攻撃

• コンポーネントやライブラリを侵害
• AIモデルの基盤を悪用

例

• 広く使われるライブラリに脆弱性を注入

セキュリティのベストプラクティス

• 定期的なセキュリティ監査
• データの検証・クレンジング
• 強固なアクセス制御
• 機微データの暗号化
• データの匿名化

その他のベストプラクティス

• 継続的モニタリング
• 信頼できるツールを使用
• ツールを定期更新
• 継続的な教育

リスクは急速に進化

• 継続的な適応
• 継続学習
• 予防的なリスク管理
• 警戒の維持

練習してみましょう！

AIセキュリティとリスク管理