Explainability और interpretability

Understanding Artificial Intelligence

Iason Prassides

Content Developer, DataCamp

Explainability और interpretability

Explainability: मनुष्यों की AI आउटपुट, जैसे भविष्यवाणियाँ और फैसले, तक पहुँचने और समझने की क्षमता

ML पेंगुइन क्लासिफायर में Explainability

Interpretability: AI सिस्टम के आंतरिक प्रोसेस समझना: एल्गोरिदम, मॉडल, डेटा वर्कफ़्लो

डिसीजन ट्री-आधारित ML मॉडल में Interpretability

Understanding Artificial Intelligence

White-box बनाम black-box AI सिस्टम

White-box: पारदर्शी और आसानी से समझ आने वाले मॉडल/सिस्टम

White box मॉडल के रूप में Linear regression

Understanding Artificial Intelligence

White-box बनाम black-box AI सिस्टम

White-box: पारदर्शी और आसानी से समझ आने वाले मॉडल/सिस्टम

Linear regression और decision tree

Understanding Artificial Intelligence

White-box बनाम black-box AI सिस्टम

White-box: पारदर्शी और आसानी से समझ आने वाले मॉडल/सिस्टम

Linear regression और decision tree

Understanding Artificial Intelligence

White-box बनाम black-box AI सिस्टम

Black-box: अधिक जटिल, समझने योग्य होने की क्षमता बहुत कम या नहीं

Black-box मॉडल के रूप में Deep neural network

Understanding Artificial Intelligence

White-box बनाम black-box AI सिस्टम

Black-box: अधिक जटिल, समझने योग्य होने की क्षमता बहुत कम या नहीं

Black-box मॉडल के रूप में Deep neural network

Understanding Artificial Intelligence

बेसिक Explainable AI (XAI) टूल्स

XAI: AI सिस्टम और मॉडलों की पारदर्शिता व explainability बढ़ाने की विधियाँ और टूल्स XAI टूल्स

  • Model introspection: फैसलों को समझने के लिए आंतरिक मॉडल पैरामीटर जाँचना
Understanding Artificial Intelligence

बेसिक Explainable AI (XAI) टूल्स

XAI: AI सिस्टम और मॉडलों की पारदर्शिता व explainability बढ़ाने की विधियाँ और टूल्स XAI टूल्स

  • Model introspection: फैसलों को समझने के लिए आंतरिक मॉडल पैरामीटर जाँचना
  • Model documentation: साझा करने योग्य आर्किटेक्चर और डिज़ाइन विचार
Understanding Artificial Intelligence

बेसिक Explainable AI (XAI) टूल्स

XAI: AI सिस्टम और मॉडलों की पारदर्शिता व explainability बढ़ाने की विधियाँ और टूल्स XAI टूल्स

  • Model introspection: फैसलों को समझने के लिए आंतरिक मॉडल पैरामीटर जाँचना
  • Model documentation: साझा करने योग्य आर्किटेक्चर और डिज़ाइन विचार
  • Model visualization: डेटा फीचर्स और मॉडल आउटपुट का मानव-अनुकूल प्रदर्शन
Understanding Artificial Intelligence

XAI टूल्स: feature importance

Feature importance: मॉडल आउटपुट में फीचर्स (predictors) का प्रभाव या योगदान

  • समझें कि डेटा-चालित मॉडल (ML/DL) फैसले कैसे लेते हैं
  • समस्याएँ, जैसे bias, पहचानें और घटाएँ
  • किसी फीचर को हटाने पर मॉडल के performance पर प्रभाव

 

SHAP (SHapley Additive exPlanations)

  • फीचर इम्पॉर्टेंस विज़ुअलाइज़ेशन टूलबॉक्स

Explainability के लिए SHAP विज़ुअलाइज़ेशन

Understanding Artificial Intelligence

XAI टूल्स: feature importance

SHAP (SHapley Additive exPlanations)

यूनिवर्सिटी एडमिशन प्रेडिक्शन मॉडल के लिए SHAP फीचर इम्पॉर्टेंस प्लॉट

Understanding Artificial Intelligence

XAI टूल्स: feature importance

SHAP (SHapley Additive exPlanations)

 

 

Explainability के लिए SHAP विज़ुअलाइज़ेशन.

Understanding Artificial Intelligence

XAI टूल्स: feature importance

SHAP (SHapley Additive exPlanations)

Explainability के लिए SHAP विज़ुअलाइज़ेशन

Understanding Artificial Intelligence

XAI के व्यावहारिक निहितार्थ

  • Algorithmic transparency:
    • एल्गोरिदम डेटा को कैसे प्रोसेस करते हैं और फैसले लेते हैं

 

  • Local और global interpretability:
    • किसी specific prediction के लिए सिस्टम व्यवहार समझें, वर्सेज़
    • किसी डेटासेट या समस्या पर सिस्टम का समग्र व्यवहार समझें
  • Ethical considerations:
    • नैतिक AI चिंताओं के लिए XAI: biases, discrimination, compliance, आदि

 

  • Human-AI collaboration:
    • भरोसे और फ़ीडबैक पर आधारित विश्वसनीय सहयोग
Understanding Artificial Intelligence

अभ्यास करते हैं!

Understanding Artificial Intelligence

Preparing Video For Download...