XAIの技術的側面

説明可能な人工知能（XAI）の基礎概念

Folkert Stijnman

ML Engineer

説明可能性

• 背景が異なれば、結果の解釈も異なります

説明可能性

• 背景が異なれば、結果の解釈も異なります

XAIの限界を受け入れる

 

• 高度なモデルは本質的に複雑：ブラックボックスモデル
• ブラックボックスモデル：意思決定過程が人間に理解しにくいモデル
• 性能と説明可能性のトレードオフ

複雑さと解釈可能性のバランス

• すべての高性能モデルが解釈可能性を犠牲にするわけではありません
• 一部の手法は精度がやや低いが、解釈可能性が高い

XAIの手法

• 設計段階から解釈可能なモデル：決定木、線形回帰
• 説明可能性手法：意思決定過程で何が起きたかを推定

練習しましょう！

説明可能な人工知能（XAI）の基礎概念