モデルのリスク

AIセキュリティとリスク管理

Angeline Corvaglia

Founder and Digital Transformation Expert

ライフサイクル全体でのリスク監視

開発中

• 公正で正確なデータ
• 効率的に学習
• 欠陥あるシステムの展開による被害

運用後

• モデルは時間とともに変化（ドリフト）
• 偏りや不正確な出力の原因に

一般的なモデルリスク7つ

 

 

• 透明性・説明可能性の不足
• バイアス
• ハルシネーション
• モデルドリフト
• 過学習
• 未学習
• データリーケージ

 

 

透明性

• AIモデルがどう意思決定するか

説明可能性

• なぜ特定の出力を出すのか

医療や金融などの重要分野では

• 意思決定プロセス
• 結果そのものと同じくらい重要

バイアス

不公正な嗜好・偏見

• 偏った学習データ
• アルゴリズム
• 代表性のない／欠陥のあるデータ
• 人間の仮定

公正で倫理的なAIのために検出・軽減

ハルシネーション（幻覚）

多くの要因で発生:

• 学習データ不足
• 誤った仮定
• データ内のバイアス

モデルドリフト

以前は正確だったが

• 関連性を失う
• 精度が低下

モデルが混乱する要因:

• 異なるデータ
• データ内の異なるパターン

効果的で正確な学習

過学習（オーバーフィッティング）

• 細部を学びすぎる

未学習（アンダーフィッティング）

• 単純すぎて学べない

データリーケージ

• 学習に外部データが混入

説明可能AI（XAI）

 

• 手法と技術
• 人に理解可能な意思決定
• 出力の根拠の説明

より堅牢で、公正かつ安全なAIシステム

 

• セキュリティ対策
• 責任ある開発
• 長期的影響

誰にとっても有益であるべき

 

練習してみましょう！

AIセキュリティとリスク管理