SHAP explainability का विज़ुअलाइज़ेशन

Python में Explainable AI

Fouad Trad

Machine Learning Engineer

डेटासेट

age	gender	bmi	children	smoker	charges
19	0	27.900	0	1	16884.92
18	1	33.770	1	0	1725.55
28	1	33.000	3	0	4449.46
33	1	22.705	0	0	21984.47
32	1	28.880	0	0	3866.85

model: charges का अनुमान लगाने के लिए random forest regressor

import shap
explainer = shap.TreeExplainer(model)
shap_values = explainer.shap_values(X)

shap.summary_plot(shap_values, X, plot_type="bar")

फीचर इम्पॉर्टेंस प्लॉट दिखा रहा है कि smoking status सबसे महत्वपूर्ण फीचर है.

SHAP values का वितरण दिखाता है
प्रत्येक फीचर के प्रभाव की दिशा और परिमाण हाइलाइट करता है
- Red रंग → फीचर मान उच्च
- Blue रंग → फीचर मान निम्न
- SHAP value > 0 → outcome बढ़ता है
- SHAP value < 0 → outcome घटता है

Beeswarm प्लॉट जो हर फीचर के लिए SHAP value वितरण दिखाता है, रंग फीचर मान दर्शाते हैं.

SHAP values का वितरण दिखाता है
प्रत्येक फीचर के प्रभाव की दिशा और परिमाण हाइलाइट करता है
- Red रंग → फीचर मान उच्च
- Blue रंग → फीचर मान निम्न
- SHAP value > 0 → outcome बढ़ता है
- SHAP value < 0 → outcome घटता है

वही beeswarm प्लॉट, हाइलाइट कि 'smoker' फीचर के उच्च मानों के SHAP values पॉज़िटिव हैं.

SHAP values का वितरण दिखाता है
प्रत्येक फीचर के प्रभाव की दिशा और परिमाण हाइलाइट करता है
- Red रंग → फीचर मान उच्च
- Blue रंग → फीचर मान निम्न
- SHAP value > 0 → outcome बढ़ता है
- SHAP value < 0 → outcome घटता है

shap.summary_plot(shap_values, X, 
                  plot_type="dot")

वही beeswarm प्लॉट, हाइलाइट कि 'smoker' फीचर के निम्न मानों के SHAP values नेगेटिव हैं.

एक सामान्य partial dependence प्लॉट जो फीचर और outcome का घटता संबंध दिखाता है.

प्रत्येक सैंपल के लिए:
- चुने गए फीचर का मान बदलें
- अन्य फीचर्स स्थिर रखें
- outcome प्रेडिक्ट करें
सभी सैंपल्स का औसत लें

shap.partial_dependence_plot("age", 
                             model.predict, 
                             X)

age फीचर का partial dependence प्लॉट दिखा रहा है कि age बढ़ने पर predicted मान बढ़ता है.

प्रत्येक सैंपल के लिए:
- चुने गए फीचर का मान बदलें
- अन्य फीचर्स स्थिर रखें
- outcome प्रेडिक्ट करें
सभी सैंपल्स का औसत लें

shap.partial_dependence_plot("age", 
                             model.predict, 
                             X)

वही partial dependence प्लॉट, डेटासेट में age मानों का वितरण हाइलाइट किया गया है.

Python में Explainable AI