डेटा बायस के साथ हम क्या करें?
Data Ethics परिचय
Shalini Kurapati, PhD
Co-founder and CEO, Clearbox AI
बायस क्या है?
- डेटा एथिक्स में पहली सोच
- किसी व्यक्ति, समूह या विचार के पक्ष/विपक्ष में पूर्वाग्रह — अन्यायपूर्ण
- डेटा एथिक्स में — डेटा बायस
- कम, ज़्यादा, या गलत प्रतिनिधित्व
- निर्णय लेने में बायस्ड डेटा से हानिकारक असर
1 Icon made by noomtah from www.flaticon.com
कभी भी, कहीं भी
डेटा-विशिष्ट बायस
1 Icon made by Flowicon from www.flaticon.com
प्रतिनिधित्व अत्यंत महत्वपूर्ण है
- प्रतिनिधि डेटा की कमी
- फेसियल रिकग्निशन — सफेद मास्क के साथ बेहतर नतीजे
- हैंड सोप डिस्पेंसर से लेकर हेल्थकेयर आउटकम तक
- अनुशंसित: Coded Bias
1 https://www.ted.com/talks/joy_buolamwini_how_i_m_fighting_bias_in_algorithms
हमारे स्टीरियोटाइप्स का आईना
- मेडिकल स्टडीज़ और डेटा, इतिहास में ज़्यादातर श्वेत पुरुषों पर
- जैसे, हार्ट अटैक के लक्षण पुरुषों और महिलाओं में अलग होते हैं
- अगर इस डेटा पर आधारित डायग्नोस्टिक ऐप चलाएँ तो क्या होगा?
1 https://womeningh.org/
गंभीर प्रभाव
- हार्ट अटैक लक्षण — पुरुष के लिए इमरजेंसी, महिला के लिए पैनिक अटैक
बहुत सारे, और गिनती जारी!
1 CC BY, John Manoogian III (JM3)
आइसबर्ग की नोक
- स्टैटिस्टिकल बायस आइसबर्ग की नोक
- ह्यूमन और सिस्टेमेटिक बायस — रवैये और सामाजिक बदलाव की ज़रूरत
- बायस की टेस्टिंग, रोकथाम व न्यूनीकरण, फीडबैक के लिए खुले रहें
1 Schwartz, R. , Vassilev, A. , Greene, K. , Perine, L. , Burt, A. and Hall, P. (2022), Towards a Standard for Identifying and Managing Bias in Artificial Intelligence, National Institute of Standards and Technology
