मॉडल-अज्ञेय व्याख्याएँ

Explainable Artificial Intelligence (XAI) Concepts

Folkert Stijnman

ML Engineer

ब्लैक बॉक्स मॉडल

• हमें पता है क्या अंदर जाता है
• हमें पता है क्या बाहर आता है
• बीच में बहुत से आंतरिक पैरामीटर होते हैं

ग्लोबल और लोकल व्याख्याएँ

 

• SHAP (SHapley Additive exPlanations)
• LIME (Local Interpretable Model-agnostic Explanations)

 

SHAP (SHapley Additive exPlanations)

 

• जासूस जैसा काम करता है
• हर फीचर को देखें
• हर सामग्री के अंतिम परिणाम पर सापेक्ष प्रभाव को समझने में मदद करता है

शेप्ली वैल्यूज़

• सहकारी गेम थ्योरी से अवधारणा
• फीचर्स का प्रभाव आँकें
• मॉडल की प्रेडिक्शन में कौन से फीचर मायने रखते हैं

SHAP इमेज रिकग्निशन

LIME (Local Interpretable Model-agnostic Explanations)

• वैज्ञानिक जैसा काम करता है
• इनपुट बदलें और आउटपुट देखें
• अगर हम इस इमेज में कुछ पिक्सल बदलें तो क्या होगा?

सेल्फ-ड्राइविंग कार बनाना

SHAP

• ग्लोबल समझ
• कार फीचर्स का कुल प्रदर्शन पर प्रभाव

LIME

• लोकल समझ
• किसी खास निर्णय पर कार फीचर्स का प्रभाव

अभ्यास करते हैं!

Explainable Artificial Intelligence (XAI) Concepts