用 LIME 解释文本与图像

Python 可解释性 AI

Fouad Trad

Machine Learning Engineer

文本模型

  • 处理并理解文本
  • 示例：情感分析
  • 黑盒模型
  • LimeTextExplainer 可解释此类模型
    • 找出各词对预测的影响

情感分析模型接收用户评论并预测相应情感（"正面"或"负面"）。

Python 可解释性 AI

LIME 文本解释器

from lime.lime_text import LimeTextExplainer


text_instance = 
"This product has great features but a poor design."


def model_predict(instance):
  ...
  return class_probabilities


explainer = LimeTextExplainer()

exp = explainer.explain_instance(

  text_instance,

  model_predict

)


exp.as_pyplot_figure()

output_sentiment.png

Python 可解释性 AI

图像模型

  • 高度复杂
  • 解读视觉数据
  • 示例：食物分类
  • LimeImageExplainer 可解释此类模型
    • 找出图像中影响预测的区域

食物分类模型接收披萨图像并预测图中食物类型。

Python 可解释性 AI

LIME 图像解释器

from lime.lime_image import LimeImageExplainer


explainer = LimeImageExplainer()

explanation = explainer.explain_instance(

  image,

  model_predict,

  num_samples=50

)


temp, _ = explanation.get_image_and_mask(

  explanation.top_labels[0],

  hide_rest=True

)

冰淇淋图像。

Python 可解释性 AI

LIME 图像解释器

from lime.lime_image import LimeImageExplainer

explainer = LimeImageExplainer()
explanation = explainer.explain_instance(
  image, 
  model_predict,  
  num_samples=50
)

temp, _ = explanation.get_image_and_mask(
  explanation.top_labels[0], 
  hide_rest=True
)

plt.imshow(temp)

冰淇淋图像，较不相关的区域被黑色遮蔽。

Python 可解释性 AI

Passons à la pratique !

Python 可解释性 AI

Preparing Video For Download...