XAI 的技术细节

可解释人工智能（XAI）概念

Folkert Stijnman

ML Engineer

可解释性

• 不同背景的人会以不同方式解读结果

可解释性

• 不同背景的人会以不同方式解读结果

正视 XAI 的局限

 

• 更复杂的模型本质上更难理解：黑箱模型
• 黑箱模型：其决策过程不易为人理解的模型
• 性能与可解释性之间的权衡

复杂性与可解释性的平衡

• 并非所有强大的模型都牺牲可解释性
• 某些技术准确率略低，但可解释性更好

XAI 技术

• 可解释模型（内生）：决策树、线性回归
• 可解释性技术：估计决策过程中的发生情况

Passons à la pratique !

可解释人工智能（XAI）概念