Text- und Bild-Erklärbarkeit mit LIME

Erklärbare KI in Python

Fouad Trad

Machine Learning Engineer

Textbasierte Modelle

Geschriebenen Text verarbeiten und interpretieren
Beispiel: Sentimentanalyse
Black-Box-Modelle
LimeTextExplainer erklärt solche Modelle
- Zeigt, wie jedes Wort die Vorhersage beeinflusst

Sentimentanalyse-Modell, das eine Nutzerbewertung erhält und die Stimmung („Positiv“ oder „Negativ“) vorhersagt.

LIME-Textklärer

from lime.lime_text import LimeTextExplainer


text_instance = 
"This product has great features but a poor design."


def model_predict(instance):
  ...
  return class_probabilities


explainer = LimeTextExplainer()

exp = explainer.explain_instance(

  text_instance,

  model_predict

)


exp.as_pyplot_figure()

Bildbasierte Modelle

Sehr komplex
Visuelle Daten interpretieren
Beispiel: Lebensmittelklassifikation
LimeImageExplainer erklärt solche Modelle
- Zeigt, welche Bildbereiche die Vorhersage beeinflussen

Lebensmittelklassifikationsmodell, das ein Pizza-Bild erhält und die Lebensmittelart vorhersagt.

LIME-Bilderklärer

from lime.lime_image import LimeImageExplainer


explainer = LimeImageExplainer()

explanation = explainer.explain_instance(

  image,

  model_predict,

  num_samples=50

)


temp, _ = explanation.get_image_and_mask(

  explanation.top_labels[0],

  hide_rest=True

)

Eiscreme-Bild.

LIME-Bilderklärer

from lime.lime_image import LimeImageExplainer

explainer = LimeImageExplainer()
explanation = explainer.explain_instance(
  image, 
  model_predict,  
  num_samples=50
)

temp, _ = explanation.get_image_and_mask(
  explanation.top_labels[0], 
  hide_rest=True
)

plt.imshow(temp)

Eiscreme-Bild, weniger relevante Bereiche sind schwarz verdeckt.

Lass uns üben!

Erklärbare KI in Python