एल्गोरिदम में पक्षपात

डेटा बायस पर विजय

Konstantinos Kattidis

Data Analytics Lead

AI और डेटा पक्षपात

AI के कई उपयोग हैं:

पर्सनलाइज़्ड रिकमेंडेशन
रूट नेविगेशन

क्या होगा अगर एल्गोरिदम कुछ समूहों, जैसे लिंग या नस्ल, के खिलाफ biased हो जाएँ?

AI उपयोग के मामले

एल्गोरिदमिक पक्षपात

एल्गोरिदमिक पक्षपात तब उभरता है जब एल्गोरिदम सिस्टेमैटिक और दोहराए जाने वाले errors देते हैं, जिससे एक समूह के पक्ष में और दूसरे के खिलाफ अनुचित परिणाम होते हैं

इसमें वे कई तरह के पक्षपात शामिल हैं जो एल्गोरिदम के विकास और परिनियोजन के दौरान उभर सकते हैं

एल्गोरिदम ट्रेनिंग के दौरान पक्षपात

एल्गोरिदमिक पक्षपात अक्सर डेटा कलेक्शन में पक्षपात से शुरू होता है
यदि ट्रेनिंग डेटा प्रतिनिधिक नहीं है या biased है, तो एल्गोरिदम वही पक्षपात सीख सकता है और बढ़ा सकता है
उदाहरण: फेसियल रिकग्निशन एल्गोरिदम में विविध समूहों का पर्याप्त प्रतिनिधित्व न होना

सेलेक्शन बायस

फ़ीचर चयन में पक्षपात

फ़ीचर चयन पक्षपात तब होता है जब कुछ features चुने जाते हैं ऐसे मापदंडों के आधार पर जो अनुचित या भेदभावपूर्ण परिणाम दे सकते हैं
जैसे race, gender, या अन्य संरक्षित विशेषताएँ
उदाहरण, लोन अप्रूवल की भविष्यवाणी करने वाला एल्गोरिदम मान ले कि सिर्फ income ही प्रासंगिक फ़ैक्टर है

मूल्यांकन पक्षपात

एल्गोरिदम की testing phase में non-representative डेटासेट उपयोग करने से मूल्यांकन पक्षपात हो सकता है
उदाहरण:
- एक मूवी रिकमेंडेशन एल्गोरिदम
- परफॉर्मेंस सिर्फ एक genre पर टेस्ट करना
- यह छूट सकता है कि रोमांस या कॉमेडी जैसे अन्य genres पर यह ठीक काम नहीं करता

मूल्यांकन पक्षपात, केवल एक genre समूह पर परीक्षण

ऑटोमेशन बायस

MRI निदान का ऑटोमेशन

लोगों का ऑटोमेटेड सिस्टम पर अत्यधिक निर्भर हो जाने का रुझान

उदाहरण:
- एक मेडिकल डायग्नोस्टिक सिस्टम medical images जैसे MRIs का विश्लेषण करता है
- ऑटोमेशन बायस तब होगा जब सिस्टम के परिणामों पर बिना समीक्षा या पुष्टि किए भरोसा कर लिया जाए
- इससे गलत निदान हो सकते हैं

अभ्यास करते हैं!

डेटा बायस पर विजय