可解釋性與可詮釋性

認識人工智慧（AI）

Iason Prassides

Content Developer, DataCamp

可解釋性與可詮釋性

Explainability：人類對 AI 輸出的存取與理解能力，例如預測、決策

Interpretability：理解 AI 系統的內部過程：演算法、模型、資料流程

白箱 vs. 黑箱 AI 系統

White-box：透明且易於詮釋的模型／系統

白箱 vs. 黑箱 AI 系統

White-box：透明且易於詮釋的模型／系統

白箱 vs. 黑箱 AI 系統

White-box：透明且易於詮釋的模型／系統

白箱 vs. 黑箱 AI 系統

Black-box：高度複雜，幾乎無法理解

白箱 vs. 黑箱 AI 系統

Black-box：高度複雜，幾乎無法理解

基礎可解釋 AI（XAI）工具

XAI：用於提升 AI 系統與模型透明度與可解釋性的各種方法與工具

• Model introspection：檢視模型內部參數以理解決策

基礎可解釋 AI（XAI）工具

XAI：用於提升 AI 系統與模型透明度與可解釋性的各種方法與工具

• Model introspection：檢視模型內部參數以理解決策
• Model documentation：可共享的架構與設計說明

基礎可解釋 AI（XAI）工具

XAI：用於提升 AI 系統與模型透明度與可解釋性的各種方法與工具

• Model introspection：檢視模型內部參數以理解決策
• Model documentation：可共享的架構與設計說明
• Model visualization：以人類易讀方式呈現資料特徵與模型輸出

XAI 工具：特徵重要性

特徵重要性（Feature importance）：特徵（預測因子）對模型輸出的影響或貢獻

• 了解資料驅動的模型（ML/DL）如何做決策
• 偵測並減輕問題，例如偏誤
• 若移除某特徵，對模型效能的影響

 

SHAP (SHapley Additive exPlanations)

• 特徵重要性視覺化工具箱

XAI 工具：特徵重要性

SHAP (SHapley Additive exPlanations)

XAI 工具：特徵重要性

SHAP (SHapley Additive exPlanations)

 

 

XAI 工具：特徵重要性

SHAP (SHapley Additive exPlanations)

XAI 的實務意涵

• 演算法透明度：
  • 演算法如何處理資料並做出決策

 

• 在地與全域可詮釋性：
  • 了解特定預測的系統行為，對比
  • 了解系統在整個資料集或問題上的整體行為

• 倫理考量：
  • 以 XAI 回應倫理型 AI 議題：偏誤、歧視、法規遵循等

 

• 人機協作：
  • 以信任與回饋為基礎的可靠協作

一起來練習吧！

認識人工智慧（AI）