與模型無關的解釋

Explainable Artificial Intelligence (XAI) 概念

Folkert Stijnman

ML Engineer

黑箱模型

• 我們知道輸入是什麼
• 我們知道輸出是什麼
• 中間有大量內部參數

全域與區域解釋

 

• SHAP（SHapley Additive exPlanations）
• LIME（Local Interpretable Model-agnostic Explanations）

 

SHAP（SHapley Additive exPlanations）

 

• 像偵探一樣分析
• 檢視每個特徵
• 幫助釐清各配方對最終結果的相對影響

Shapley 值

• 來自合作賽局理論的概念
• 評估特徵影響力
• 哪些特徵影響模型的預測

SHAP 影像辨識

LIME（Local Interpretable Model-agnostic Explanations）

• 像科學家一樣做實驗
• 改變輸入觀察輸出
• 若改動這張影像的部分像素會怎樣？

打造自動駕駛車

SHAP

• 全域理解
• 車輛特徵對整體效能的影響

LIME

• 區域理解
• 車輛特徵對特定決策的影響

一起來練習吧！

Explainable Artificial Intelligence (XAI) 概念