Lokalna wyjaśnialność z SHAP

Wyjaśnialne AI w Pythonie

Fouad Trad

Machine Learning Engineer

Wyjaśnialność globalna a lokalna

Wyjaśnialność globalna

Ogólne zachowanie modelu
Nie wyjaśnia pojedynczych instancji

Profesor wyjaśniający ogólne wyniki klasy wszystkim uczniom.

Wyjaśnialność lokalna

Wyjaśnia predykcję dla konkretnego punktu danych
Kluczowa w wrażliwych zastosowaniach

Profesor wyjaśniający konkretnemu uczniowi powód jego oceny.

¹ Obrazy wygenerowane przez DALL-E

Zbiór danych o chorobach serca

age	sex	blood_pressure	ecg_results	thalassemia
52	1	125	1	3
53	1	140	0	3
70	1	145	1	3
61	1	148	1	3
62	0	138	1	2

knn: klasyfikator KNN przewidujący ryzyko choroby serca

Lokalna wyjaśnialność z SHAP

explainer = shap.KernelExplainer(knn.predict_proba, shap.kmeans(X, 10))


test_instance = X.iloc[0, :]


shap_values = explainer.shap_values(test_instance)


print(shap_values.shape)

(6, 2)

Wykresy kaskadowe SHAP

Pokazuje, jak cechy zwiększają lub zmniejszają predykcję modelu

Wykres kaskadowy przedstawiający wiele cech i wkład każdej z nich w predykcję.

Wykresy kaskadowe SHAP

Pokazuje, jak cechy zwiększają lub zmniejszają predykcję modelu

Ten sam wykres kaskadowy przedstawiający wartość bazową jako punkt wyjścia predykcji.

Wykresy kaskadowe SHAP

Pokazuje, jak cechy zwiększają lub zmniejszają predykcję modelu

Ten sam wykres kaskadowy pokazujący, że cechy skierowane w prawo zwiększają predykcję, a skierowane w lewo – zmniejszają ją.

Tworzenie wykresów kaskadowych

shap.waterfall_plot(

  shap.Explanation(

    values=shap_values[:,1],

    base_values=explainer.expected_value[1],

    data=test_instance,

    feature_names=X.columns

  )

)

Wykresy kaskadowe dla wielu instancji

Rysunek przedstawiający cztery wykresy kaskadowe – po jednym dla każdej próbki – ilustrujące, jak różne próbki podążają odmiennymi ścieżkami do decyzji modelu.

Czas na ćwiczenia!

Wyjaśnialne AI w Pythonie