Explicabilité du texte et de l'image avec LIME

Explainable AI en Python

Fouad Trad

Machine Learning Engineer

Modèles basés sur du texte

Traiter et interpréter le langage écrit
Exemple : analyse de sentiments
Modèles en « boîte noire »
LimeTextExplainer explique ces modèles
- Indique l'effet de chaque mot sur la prédiction

Modèle d'analyse de sentiments recevant un avis d'utilisateur et prédisant le sentiment correspondant (« Positive » ou « Negative »).

Expliqueur de texte LIME

from lime.lime_text import LimeTextExplainer


text_instance = 
"This product has great features but a poor design."


def model_predict(instance):
  ...
  return class_probabilities


explainer = LimeTextExplainer()

exp = explainer.explain_instance(

  text_instance,

  model_predict

)


exp.as_pyplot_figure()

Modèles basés sur l'image

Très complexes
Interpréter des données visuelles
Exemple : classification d'aliments
LimeImageExplainer explique ces modèles
- Repère les zones de l'image qui influencent la prédiction

Modèle de classification d'aliments recevant l'image d'une pizza et prédisant le type d'aliment présent.

Expliqueur d'images LIME

from lime.lime_image import LimeImageExplainer


explainer = LimeImageExplainer()

explanation = explainer.explain_instance(

  image,

  model_predict,

  num_samples=50

)


temp, _ = explanation.get_image_and_mask(

  explanation.top_labels[0],

  hide_rest=True

)

Image de crème glacée.

Expliqueur d'images LIME

from lime.lime_image import LimeImageExplainer

explainer = LimeImageExplainer()
explanation = explainer.explain_instance(
  image, 
  model_predict,  
  num_samples=50
)

temp, _ = explanation.get_image_and_mask(
  explanation.top_labels[0], 
  hide_rest=True
)

plt.imshow(temp)

Image de crème glacée où les parties moins pertinentes sont masquées en noir.

Passons à la pratique !

Explainable AI en Python