モデル非依存の説明

説明可能な人工知能（XAI）の基礎概念

Folkert Stijnman

ML Engineer

ブラックボックスモデル

• 何が入力されるかはわかる
• 何が出力されるかもわかる
• その間に多くの内部パラメータがある

グローバル説明とローカル説明

 

• SHAP（SHapley Additive exPlanations）
• LIME（Local Interpretable Model-agnostic Explanations）

 

SHAP（SHapley Additive exPlanations）

 

• 探偵のように調べる
• 各特徴量を見る
• 最終結果に対する各材料の相対的影響を把握

Shapley 値

• 協力ゲーム理論の概念
• 特徴量の影響を評価
• 予測に効く特徴量はどれか

SHAP による画像認識

LIME（Local Interpretable Model-agnostic Explanations）

• 科学者のように振る舞う
• 入力を変えて出力を確認
• 画像の一部のピクセルを変えたら？

自動運転車の構築

SHAP

• グローバル理解
• 車の特徴量が全体性能へ与える影響

LIME

• ローカル理解
• 特定の判断への車の特徴量の影響

練習しましょう！

説明可能な人工知能（XAI）の基礎概念