SHAP के साथ लोकल explainability

Python में Explainable AI

Fouad Trad

Machine Learning Engineer

ग्लोबल बनाम लोकल explainability

ग्लोबल explainability

समग्र मॉडल व्यवहार
व्यक्तिगत इंस्टेंस नहीं समझाता

प्रोफेसर सभी छात्रों को कक्षा के समग्र प्रदर्शन की व्याख्या कर रहे हैं.

लोकल explainability

किसी विशिष्ट डेटा पॉइंट की prediction समझाता है
संवेदनशील ऐप्लिकेशनों में अहम

प्रोफेसर एक खास छात्र को उनके ग्रेड के पीछे का कारण बता रहे हैं.

¹ Images generated by DALL-E

हार्ट डिजीज़ डेटासेट

age	sex	blood_pressure	ecg_results	thalassemia
52	1	125	1	3
53	1	140	0	3
70	1	145	1	3
61	1	148	1	3
62	0	138	1	2

knn: हार्ट डिजीज़ जोखिम की prediction करने वाला KNN classifier

SHAP के साथ लोकल explainability

explainer = shap.KernelExplainer(knn.predict_proba, shap.kmeans(X, 10))


test_instance = X.iloc[0, :]


shap_values = explainer.shap_values(test_instance)


print(shap_values.shape)

(6, 2)

SHAP वॉटरफॉल प्लॉट्स

दिखाता है कि फीचर्स मॉडल की prediction को कितना बढ़ाते या घटाते हैं

एक वॉटरफॉल प्लॉट जो कई फीचर्स और prediction में उनके योगदान को दिखाता है.

SHAP वॉटरफॉल प्लॉट्स

दिखाता है कि फीचर्स मॉडल की prediction को कितना बढ़ाते या घटाते हैं

वही वॉटरफॉल प्लॉट जो baseline value दिखाता है, जिससे prediction की शुरुआत होती है.

SHAP वॉटरफॉल प्लॉट्स

दिखाता है कि फीचर्स मॉडल की prediction को कितना बढ़ाते या घटाते हैं

वही वॉटरफॉल प्लॉट जो दिखाता है कि दाईं ओर धकेलने वाले फीचर्स prediction बढ़ाते हैं, और बाईं ओर वाले उसे घटाते हैं.

वॉटरफॉल प्लॉट्स बनाना

shap.waterfall_plot(

  shap.Explanation(

    values=shap_values[:,1],

    base_values=explainer.expected_value[1],

    data=test_instance,

    feature_names=X.columns

  )

)

कई इंस्टेंस के लिए वॉटरफॉल्स

चित्र जिसमें चार वॉटरफॉल प्लॉट्स हैं—हर सैंपल के लिए एक—जो दिखाते हैं कि अलग-अलग सैंपल मॉडल के फ़ैसले तक अलग पैटर्न से पहुँचते हैं.

अभ्यास करते हैं!

Python में Explainable AI