可解釋 AI

AI 倫理

Joe Franklin

Associate Data Literacy and Essentials Manager, DataCamp

什麼是可解釋 AI？

• 人類能夠理解其內部運作機制的 AI 系統
• 目標： 讓 AI 的決策過程變得清晰、易懂且可解釋
• 幫助理解 AI 做出決策的原因和方式
• 推動實現 AI 應用合乎倫理的關鍵一步

¹ 圖示由 vectorsmarket15 製作，來源：www.flaticon.com

核心支柱

• 透明度、公平性、問責制是核心要素
• AI 得出的結論應當是人類可理解且符合邏輯的

• 以可解釋性為核心建構的模型
• 使用決策樹或線性迴歸等可解釋模型
• 儘管性能可能略遜一籌，但能夠洞察推理過程依然大有價值

¹ 圖示由 juicy_fish 和 Becris 製作，來源：www.flaticon.com

它是如何運作的？

它是如何運作的？

局部可解釋模型無關解釋 (LIME)

• 將 LIME 視為幫助模型進行溝通的翻譯器
• 為特定預測創建模型決策過程的簡化版本
• 案例：
  • 基於導演知名度和高預算等因素，解釋對電影是否熱映所做的預測

¹ 圖示由 Freepik 製作，來源：www.flaticon.com

SHapley Additive exPlanations (SHAP)

• SHAP： AI 領域的偵探，揭示特徵重要性
• SHAP 實際應用
  • 導演： 50%
  • 演員： 30%
  • 類型： 15%
  • 預算： 5%

XAI 的未來

• XAI 中還涉及許多其他技術和方法
• XAI 與傳統 AI 之間的差距正在縮小
• 持續研究正在提升 AI 可解釋性

一起來練習吧！

AI 倫理