LLM 的可解釋性

Explainable Artificial Intelligence (XAI) 概念

Folkert Stijnman

ML Engineer

大型語言模型（LLM）

• 理解、生成並詮釋人類語言
• ChatGPT、Bard
• 以海量文字資料訓練
• 撰寫文章、詩歌、程式碼
• 如何理解它的決策？

 

LLM 與可解釋性

• 複雜原因：
  • 模型內神經網路層的深度與規模
  • 極大量文字（例如 TB 等級資料）

LLM 可解釋性的作法

開發者

• 訓練資料透明化
• 採用較簡單的模型
• 納入人類回饋

終端使用者

• 自我解說
• 微調輸入

LLM 的未來應用

• 提升可解釋性將持續是必要條件
• 建立信任與信心

一起來練習吧！

Explainable Artificial Intelligence (XAI) 概念