XAI 的技術面向

Explainable Artificial Intelligence (XAI) 概念

Folkert Stijnman

ML Engineer

可解釋性

  • 不同背景的人會用不同方式解讀結果

以百分比解釋資料特徵的圖表

Explainable Artificial Intelligence (XAI) 概念

可解釋性

  • 不同背景的人會用不同方式解讀結果

以百分比與文字解釋資料特徵的圖表

Explainable Artificial Intelligence (XAI) 概念

面對 XAI 的限制

 

  • 更精密的模型本質上較複雜：黑箱模型
  • 黑箱模型：決策過程不易為人理解的模型類型
  • 效能與可解釋性之間的取捨

顯示已知輸入、問號與輸出的圖示

Explainable Artificial Intelligence (XAI) 概念

複雜度與可詮釋性的平衡

詮釋性與複雜度之間平衡刻度的圖

  • 不是所有強大的模型都會犧牲可詮釋性
  • 有些技術準確度略低，但可詮釋性更高
Explainable Artificial Intelligence (XAI) 概念

XAI 的技術

  • 設計即具可詮釋性：決策樹、線性迴歸
  • 可解釋技術：提供對決策過程中發生事情的估計

可詮釋模型的圖示

Explainable Artificial Intelligence (XAI) 概念

一起來練習吧！

Explainable Artificial Intelligence (XAI) 概念

Preparing Video For Download...