Lokale Erklärbarkeit mit SHAP

Erklärbare KI in Python

Fouad Trad

Machine Learning Engineer

Globale vs. lokale Erklärbarkeit

Globale Erklärbarkeit

Gesamtes Modellverhalten
Erklärt keine einzelnen Instanzen

Professor erklärt der gesamten Klasse die Gesamtleistung.

Lokale Erklärbarkeit

Erklärt die Vorhersage für einen konkreten Datenpunkt
Wichtig für sensible Anwendungen

Professor erklärt einem bestimmten Schüler die Begründung für seine Note.

¹ Bilder von DALL-E generiert

Herzkrankheits-Datensatz

age	sex	blood_pressure	ecg_results	thalassemia
52	1	125	1	3
53	1	140	0	3
70	1	145	1	3
61	1	148	1	3
62	0	138	1	2

knn: KNN-Klassifikator zur Vorhersage des Herzkrankheitsrisikos

Lokale Erklärbarkeit mit SHAP

explainer = shap.KernelExplainer(knn.predict_proba, shap.kmeans(X, 10))


test_instance = X.iloc[0, :]


shap_values = explainer.shap_values(test_instance)


print(shap_values.shape)

(6, 2)

SHAP-Waterfall-Plots

Zeigt, wie Features die Vorhersage erhöhen oder senken

Ein Waterfall-Plot mit mehreren Features und deren Beiträgen zur Vorhersage.

SHAP-Waterfall-Plots

Zeigt, wie Features die Vorhersage erhöhen oder senken

Gleicher Waterfall-Plot mit dem Basiswert als Startpunkt der Vorhersage.

SHAP-Waterfall-Plots

Zeigt, wie Features die Vorhersage erhöhen oder senken

Gleicher Waterfall-Plot: Nach rechts schiebende Features erhöhen die Vorhersage, nach links senkende verringern sie.

Waterfall-Plots erstellen

shap.waterfall_plot(

  shap.Explanation(

    values=shap_values[:,1],

    base_values=explainer.expected_value[1],

    data=test_instance,

    feature_names=X.columns

  )

)

Waterfalls für mehrere Instanzen

Vier Waterfall-Plots, je Probe einer, die unterschiedliche Wege zur Modellentscheidung zeigen.

Lass uns üben!

Erklärbare KI in Python