Lokale verklaarbaarheid met SHAP

Explainable AI in Python

Fouad Trad

Machine Learning Engineer

Globaal vs. lokaal verklaren

Globale verklaarbaarheid

Algemeen modelgedrag
Verklaart geen individuele gevallen

Docent legt de algemene prestaties van de klas uit aan alle studenten.

Lokale verklaarbaarheid

Verklaart de voorspelling voor één datapunt
Cruciaal voor gevoelige toepassingen

Docent legt aan een specifieke student de reden voor hun cijfer uit.

¹ Afbeeldingen gegenereerd door DALL-E

Hartziekte-dataset

age	sex	blood_pressure	ecg_results	thalassemia
52	1	125	1	3
53	1	140	0	3
70	1	145	1	3
61	1	148	1	3
62	0	138	1	2

knn: KNN-classificatie voor risico op hartziekte

Lokale verklaarbaarheid met SHAP

explainer = shap.KernelExplainer(knn.predict_proba, shap.kmeans(X, 10))


test_instance = X.iloc[0, :]


shap_values = explainer.shap_values(test_instance)


print(shap_values.shape)

(6, 2)

SHAP-watervalgrafieken

Laat zien hoe features de voorspelling verhogen of verlagen

Een watervalgrafiek met meerdere features en hun bijdrage aan de voorspelling.

SHAP-watervalgrafieken

Laat zien hoe features de voorspelling verhogen of verlagen

Dezelfde watervalgrafiek met de basiswaarde, het startpunt voor de voorspelling.

SHAP-watervalgrafieken

Laat zien hoe features de voorspelling verhogen of verlagen

Dezelfde watervalgrafiek die toont dat features naar rechts de voorspelling verhogen en naar links verlagen.

Watervalgrafieken maken

shap.waterfall_plot(

  shap.Explanation(

    values=shap_values[:,1],

    base_values=explainer.expected_value[1],

    data=test_instance,

    feature_names=X.columns

  )

)

Watervallen voor meerdere instanties

Figuur met vier watervalgrafieken, één per sample, die tonen dat verschillende samples andere paden naar de modelbeslissing volgen.

Laten we oefenen!

Explainable AI in Python