為何 Explainable AI 很重要

Explainable Artificial Intelligence (XAI) 概念

Folkert Stijnman

ML Engineer

AI 系統

• 預測：分析資料、找出模式並進行預測
  • _範例_：市場走勢、健康風險、天氣型態
• 產生：根據使用者輸入產生內容
  • _範例_：文字、程式碼、影像、聲音

Explainable AI（XAI）

 

• 技術與理解的落差
• 透明性
• 可解釋性
• 責信度
• 對 AI 的信任

 

AI 的透明性

 

 

• AI 的透明性：能理解並追溯 AI 如何做出決策或預測
• 確保公平與準確
• 也確保 AI 具有可被辯護性

可解釋性與責信度

 

• 可解釋性：人能理解 AI 決策原因的程度
• 對醫療等高風險領域很重要
• 責信度：為 AI 的行為與決策分配責任

建立對 AI 系統的信任

• 人們傾向不信任新的自動化解方
• 理解能培養信任
• 建立人與技術的關係

XAI 為何重要？

XAI 讓 AI 系統可以：

• 有效且可被辯護
• 清楚且易懂
• 促進信任與公平
• 滋養人與技術的關係

一起來練習吧！

Explainable Artificial Intelligence (XAI) 概念