XAI की तकनीकी बातें

Explainable Artificial Intelligence (XAI) Concepts

Folkert Stijnman

ML Engineer

Explainability

• अलग पृष्ठभूमि के लोग परिणामों की व्याख्या अलग तरह से करेंगे

Explainability

• अलग पृष्ठभूमि के लोग परिणामों की व्याख्या अलग तरह से करेंगे

XAI की सीमाएँ स्वीकारना

 

• अधिक उन्नत मॉडल स्वभाव से जटिल होते हैं: black box models
• Black box models: ऐसे मॉडल जिनकी निर्णय प्रक्रिया इंसानों के लिए आसानी से समझना मुश्किल हो
• परफॉर्मेंस और explainability के बीच संतुलन का समझौता

जटिलता बनाम व्याख्यात्मकता में संतुलन

• हर शक्तिशाली मॉडल व्याख्यात्मकता नहीं खोता
• कुछ तकनीकें थोड़ी कम सटीकता पर अधिक व्याख्यात्मकता देती हैं

XAI में तकनीकें

• डिज़ाइन से व्याख्यात्मक मॉडल: decision trees, linear regression
• Explainability तकनीकें: निर्णय प्रक्रिया में क्या हुआ, उसका अनुमान देती हैं

अभ्यास करते हैं!

Explainable Artificial Intelligence (XAI) Concepts