AI特有のセキュリティリスク

AIセキュリティとリスク管理

Angeline Corvaglia

Founder and Digital Transformation Specialist

リスク管理の重要性

• 便益を安全かつ責任ある形で活用
• セキュリティのアプローチを見直す必要
• 従来型の対策だけでは不十分

AI導入の影響はコインの両面：

• 可能性
• セキュリティリスク

見えにくいが危険なリスク

• バイアス
• ハルシネーション
• データ汚染
• 敵対的攻撃
• 機密データの露出

採用システムのAIバイアス

1. 過去データでAIを学習
2. 過去のバイアスを反映
3. バイアスが拡大
4. 組織への信頼が低下

オンライン購買プラットフォームの操作

1. AIレコメンド搭載のプラットフォーム
2. 偽データを投入
3. AIが不人気・有害な商品を推薦
4. 多数の潜在的な影響

AIのバイアス

超速の意思決定でバイアスの影響を増幅

不公平な優遇・不利益

不均衡な結果が危険な速さで発生

ハルシネーション（幻覚）

• 誤りや誤解を招く情報を真実として提示

起こりうること：

• 誤った意思決定
• 誤情報と信頼低下

データ汚染

学習データの意図的な改ざん

AIを誤作動させる

• 誤った予測や判断
• 重大な影響

敵対的攻撃

誤解を招く入力を与える

• 運用中に実行
• 検知が難しい
• 整合性を損なう

機密データの露出

学習・運用に大量のデータが必要

適切に保護しないと機密データ露出のリスク

管理のためにリスクを理解する

プロアクティブなリスク軽減

• リスクを先読み
• AIセキュリティの全体像を把握
• AIセキュリティを将来に備える
• セキュリティ重視の文化を醸成
• モデル内外のリスクを理解
• 組織目標に整合させる

さあ、始めましょう！

AIセキュリティとリスク管理