Explainable AI

AI Ethics

Joe Franklin

Associate Data Literacy and Essentials Manager, DataCamp

Explainable AI क्या है?

• ऐसे AI सिस्टम जिनकी आंतरिक कार्यप्रणाली मनुष्यों को समझ आए
• लक्ष्य: AI के निर्णय को स्पष्ट, समझने योग्य और समझाने योग्य बनाना
• यह जानने में मदद कि AI निर्णय क्यों और कैसे लेता है
• नैतिक AI उपयोग की ओर बड़ा कदम

¹ Icon made by vectorsmarket15 from www.flaticon.com

मुख्य स्तंभ

• केंद्र में हैं: Transparency, fairness, accountability
• AI के निष्कर्ष मनुष्यों के लिए सुलभ और तार्किक होने चाहिए

• ऐसे मॉडल जो मूल में explainability पर बने हों
• decision trees या linear regression जैसे interpretable मॉडल का उपयोग
• प्रदर्शन थोड़ा घटे तो भी प्रक्रिया दिखने की ताकत अहम

¹ Icons made by juicy_fish & Becris from www.flaticon.com

यह कैसे काम करता है?

यह कैसे काम करता है?

Local Interpretable Model-agnostic Explanations (LIME)

• LIME एक translator की तरह जो मॉडल को communicate करने में मदद दे
• किसी खास prediction के लिए मॉडल की decision प्रक्रिया का सरल संस्करण बनाता है
• उदाहरण:
  • डायरेक्टर की लोकप्रियता और ऊँचे बजट जैसे कारकों से किसी फिल्म के हिट होने की व्याख्या

¹ Icon made by Freepik from www.flaticon.com

SHapley Additive exPlanations (SHAP)

• SHAP: AI का जासूस, feature importance उजागर करता है
• SHAP in Action
  • Director: 50%
  • Cast: 30%
  • Genre: 15%
  • Budget: 5%

XAI का भविष्य

• XAI में कई और techniques और approaches मौजूद हैं
• XAI और पारंपरिक AI के बीच का अंतर घट रहा है
• निरंतर शोध से AI की interpretability बेहतर हो रही है

अभ्यास करते हैं!

AI Ethics