जिम्मेदार AI मेट्रिक्स

जिम्मेदार AI डेटा मैनेजमेंट

Maria Prokofieva

Lead ML Engineer

AI प्रोजेक्ट लाइफसाइकल

लाइफसाइकल

जिम्मेदार AI प्रोजेक्ट

कानूनी रूप से अनुपालन
निष्पक्ष और विविध
प्रैक्टिस पारदर्शी, उत्तरदायी, और सुरक्षित हों

मॉडल निष्पक्षता:

सभी के लिए निष्पक्ष, बिना पक्षपात, और समान परिणाम

लाइफसाइकल

संरक्षित विशेषताएँ

ऐसे समूह जो अन्याय और भेदभाव का शिकार हो सकते हैं
संरक्षित विशेषताओं से परिभाषित:
- नस्ल
- जातीयता
- जेंडर
- सामाजिक-आर्थिक पृष्ठभूमि

लोगों का समूह

डेटा अधिग्रहण

समान परिणाम
जनसांख्यिकीय असमानता
क़ानून और विनियम

दस्तावेज़ देखते लोग

चेहरा पहचान में AI

उच्च सटीकता

लेकिन

कुछ विशेष जातीयताओं या जेंडर को नहीं पकड़ पाते

क्यों...

कमी:

डेटा उपलब्धता
विविधता
प्रतिनिधित्व

चेहरे

समान परिणाम और जनसांख्यिकीय असमानता

समान परिणाम: सभी समूहों में लाभ समान हों

शर्तीय जनसांख्यिकीय असमानता: समूहों के बीच अंतर

डेटा विविधता आँकने के लिए वर्णनात्मक सांख्यिकी और डिस्ट्रीब्यूशन का उपयोग करें
सुधारात्मक उपाय: वेटिंग और बैलेंसिंग
मॉडलिंग के बाद फिर जाँचें
टेस्ट का रिकॉर्ड रखें

न्यायसंगतता

मॉडलिंग

समान परफॉर्मेंस

उदाहरण, मेडिकल डायग्नोसिस:

कुछ संरक्षित समूहों में अधिक आम

फॉल्स नेगेटिव, फॉल्स पॉजिटिव, और एक्यूरेसी का मूल्यांकन करें
व्याख्येयता:
- Local Interpretable Model-agnostic Explanation (LIME)
- Shapley Additive Explanation (SHAP)

निशाने पर chूके शॉट्स वाला बुल्सआई

डिप्लॉयमेंट और मॉनिटरिंग

मॉडल ड्रिफ्ट:
- समय के साथ मॉडल परफॉर्मेंस में बदलाव

डिस्ट्रीब्यूशन मॉनिटर करें
तकनीकी परफॉर्मेंस मेट्रिक्स
मॉडल समायोजित करें
ट्रैक बनाए रखें!

मेट्रिक्स लागू करना

संरक्षित विशेषताओं को समझें
कई और मेट्रिक्स भी हैं!
हमेशा उपयुक्त कानूनी और डोमेन विशेषज्ञों से परामर्श लें
प्राइवेसी और सिक्योरिटी जाँच करें

जिम्मेदार डेटा आयाम

अभ्यास करते हैं!

जिम्मेदार AI डेटा मैनेजमेंट

Preparing Video For Download...