Bias का निवारण

जिम्मेदार AI डेटा मैनेजमेंट

Maria Prokofieva

Lead ML engineer

हम क्या कवर करेंगे

• प्रोजेक्ट लाइफसाइकल भर की रणनीतियाँ
• Re-sampling और re-weighting
• Re-labeling और sensitivity attribute हटाना
• Adversarial training और मॉडल re-calibration
• उपयोगकर्ता व्यवहार
• Fairness constraints और एल्गोरिदम चयन
• अन्य रणनीतियाँ भी हैं

Bias पर दोबारा नज़र

• व्यवस्थित त्रुटियाँ या पूर्वाग्रह
• समूहों या व्यक्तियों के लिए अनुचित परिणाम

¹ Image by Streamline HQ

प्रोजेक्ट में Bias के चरण

• कच्चे डेटा में
• प्री-प्रोसेसिंग में
• मॉडलिंग में
• पोस्ट-डिप्लॉयमेंट में

प्री-प्रोसेसिंग में Bias

• Re-sampling
• Re-weighting
• Re-labeling
• Sensitivity attribute हटाना

प्री-प्रोसेसिंग की रणनीतियाँ

• Re-sampling:
  • संतुलित क्लास प्रतिनिधित्व हेतु वितरण समायोजित करें
• Re-weighting:
  • क्लास वेट से bias सुधारें, डेटासेट आकार समान रखें
• Re-labelling:
  • सही टार्गेट प्रतिनिधित्व हेतु लेबल अपडेट करें
• Sensitivity attribute हटाना:
  • प्रोटेक्टेड attributes हटाएँ

मॉडलिंग में Bias

• एल्गोरिदम से उत्पन्न Bias
• Adversarial training
• Fairness constraints
• सरल, मज़बूत, या generalizable मॉडल का चयन

Financial advisor

• क्षेत्रीय आर्थिक असमानताओं से जुड़ा Bias
• Bias सुधारने हेतु adversarial training
• Decision trees और regularized linear models

¹ Image by Streamline HQ

डिप्लॉयमेंट बाद और उपयोग में Bias

• मॉडल ड्रिफ्ट रोकने हेतु bias मॉनिटर करें
• मॉडल re-calibration
• एप्लिकेशन का गलत उपयोग

¹ Image by Streamline HQ

Financial advisor

मॉडल ड्रिफ्ट:

• कम-प्रतिनिधित्व वाली फ्रीलांस इकॉनमी

गलत उपयोग:

• वित्तीय जानकारी अपडेट करना

¹ Image by Streamline HQ

अभ्यास करते हैं!

जिम्मेदार AI डेटा मैनेजमेंट