XAI 技术

可解释人工智能（XAI）概念

Folkert Stijnman

ML Engineer

XAI 解释

 

• 特定模型的解释
• 与模型无关的解释
• 局部解释
• 全局解释

特定模型的解释

• 针对模型工作机制
• 可视化决策树（仅用于决策树模型）

与模型无关的解释

• 像瑞士军刀
• 灵活可适配
• 适用于任意模型的机理洞察

局部解释

• 放大查看某个预测
• 具体结果的原因

全局解释

• 对整体决策的解释
• 宏观视角

选择合适的解释方式

根据需求与场景：

• 与模型无关的解释：适用于多种模型，简单灵活
• 特定模型的解释：针对某模型的深入细节
• 局部解释：解释单个决策，尤用于关键情境
• 全局解释：把握模型整体行为

Passons à la pratique !

可解释人工智能（XAI）概念