SHAP व्याख्यात्मकता

Python में Explainable AI

Fouad Trad

Machine Learning Engineer

SHAP का परिचय

SHAP → SHapley Additive exPlanations
मॉडल-अज्ञेय तकनीक
गेम थ्योरी के shapley मानों का उपयोग करता है
SHAP मान → पूर्वानुमानों में फीचर के योगदान को मापते हैं

SHAP लोगो

बैंड सदस्यों में मुनाफा बाँटना

एक म्यूज़िकल बैंड की छवि.

SHAP एक्सप्लेनर

SHAP मान निकालें
ट्री एक्सप्लेनर → ट्री-आधारित मॉडल

छवि दिखाती है कि SHAP एक्सप्लेनर दो हिस्सों में बँटे हैं: जनरल एक्सप्लेनर जो किसी भी मॉडल पर लगते हैं, और टाइप-विशिष्ट एक्सप्लेनर जो खास मॉडल प्रकारों के लिए ऑप्टिमाइज़्ड होते हैं.

एडमिशन डेटासेट

GRE Score	TOEFL Score	University Rating	SOP	LOR	CGPA	Chance of Admit	Accept
337	118	4	4.5	4.5	9.65	0.92	1
324	107	4	4	4.5	8.87	0.76	1
316	104	3	3	3.5	8	0.72	1
322	110	3	3.5	2.5	8.67	0.8	1
314	103	2	2	3	8.21	0.45	0

rf_reg: प्रवेश की संभावना को predict करता है
rf_class: स्वीकृति को predict करता है
X: फीचर्स वाला dataframe

SHAP मान निकालना

import shap

Regression

explainer_reg = shap.TreeExplainer(rf_reg)

shap_values_reg = explainer_reg.shap_values(X)

Classification

explainer_class = shap.TreeExplainer(rf_class)

shap_values_class = explainer_class.shap_values(X)

SHAP आउटपुट समझना

Regression

print(shap_values_reg.shape)

(400, 6)

SHAP मानों को एक तालिका के रूप में दिखाया गया है, जिसकी डाइमेंशन X dataframe के समान है (सैंपल्स, फीचर्स).

SHAP आउटपुट समझना

Regression

print(shap_values_reg.shape)

(400, 6)

Classification

print(shap_values_class.shape)

(400, 6, 2)

पॉज़िटिव क्लास के मान चुनें

positive_values = shap_values_class[:,:,1]

फीचर इम्पॉर्टेंस

mean_shap_values_class = np.abs(shap_values_class[:, :, 1]).mean(axis=0)
mean_shap_values_reg = np.abs(shap_values_reg).mean(axis=0)

plt.bar(X_train.columns, mean_shap_values_class)
plt.bar(X_train.columns, mean_shap_values_reg)

रिग्रेशन और क्लासिफिकेशन के लिए फीचर महत्व दिखाने वाली छवि, यह दर्शाते हुए कि CGPA और GRE स्कोर एडमिशन की भविष्यवाणी में सबसे प्रभावशाली हैं.

अभ्यास करते हैं!

Python में Explainable AI