Penjelasan lokal dengan SHAP

Explainable AI in Python

Fouad Trad

Machine Learning Engineer

Penjelasan global vs. lokal

Penjelasan global

Perilaku model secara umum
Tidak menjelaskan instance individual

Profesor menjelaskan kinerja umum kelas kepada semua siswa.

Penjelasan lokal

Menjelaskan prediksi untuk titik data spesifik
Penting untuk aplikasi sensitif

Profesor menjelaskan kepada seorang siswa alasan di balik nilainya.

¹ Gambar dibuat oleh DALL-E

Dataset penyakit jantung

age	sex	blood_pressure	ecg_results	thalassemia
52	1	125	1	3
53	1	140	0	3
70	1	145	1	3
61	1	148	1	3
62	0	138	1	2

knn: Klasifier KNN memprediksi risiko penyakit jantung

Penjelasan lokal dengan SHAP

explainer = shap.KernelExplainer(knn.predict_proba, shap.kmeans(X, 10))


test_instance = X.iloc[0, :]


shap_values = explainer.shap_values(test_instance)


print(shap_values.shape)

(6, 2)

Plot waterfall SHAP

Menunjukkan bagaimana fitur menaikkan/menurunkan prediksi model

Plot waterfall yang menampilkan banyak fitur dan kontribusi masing-masing terhadap prediksi.

Plot waterfall SHAP

Menunjukkan bagaimana fitur menaikkan/menurunkan prediksi model

Plot waterfall yang sama menampilkan nilai baseline, sebagai titik awal prediksi.

Plot waterfall SHAP

Menunjukkan bagaimana fitur menaikkan/menurunkan prediksi model

Plot waterfall yang sama menunjukkan bahwa fitur yang mendorong ke kanan menaikkan prediksi, sedangkan yang mendorong ke kiri menurunkannya.

Membuat plot waterfall

shap.waterfall_plot(

  shap.Explanation(

    values=shap_values[:,1],

    base_values=explainer.expected_value[1],

    data=test_instance,

    feature_names=X.columns

  )

)

Waterfall untuk beberapa instance

Gambar empat plot waterfall, masing-masing untuk satu sampel, memperlihatkan setiap sampel mengikuti pola berbeda menuju keputusan model.

Ayo berlatih!

Explainable AI in Python