स्वचालित निर्णय-निर्माण और प्रोफाइलिंग

GDPR को समझना

Shalini Kurapati, CIPP/E

Co-founder and CEO, Clearbox AI

AI: वैधता, निष्पक्षता, और पारदर्शिता

स्वचालित प्रक्रिया का चित्रण

¹ छवि स्रोत: flaticon.com

व्यवहार का विश्लेषण व पूर्वानुमान, बड़े पैमाने पर प्रोसेसिंग, AI/machine learning का उपयोग
व्यवहार और गुणों की पहचान व लिंक करना
प्रोफाइल बनाना, और प्रोफाइल के आधार पर व्यवहार का पूर्वानुमान
उदाहरण:
- उपचार की सफलता
- पुनः अपराध का जोखिम

¹ इन्फॉर्मेशन कमीश्नर का कार्यालय

समाचार वेबसाइटों के स्क्रीनग्रैब, जो जेंडर, नस्ल और प्रदर्शन स्कोरिंग पर आधारित AI एल्गोरिदम पक्षपात दिखाते हैं.

¹ छवि स्रोत: bbc.com, propublica.com, और techcrunch.com

320,000 उपयोगकर्ताओं ने 'शैक्षणिक शोध' के लिए ऑनलाइन पर्सनैलिटी टेस्ट लिया
उपयोगकर्ताओं के दोस्तों का निजी डेटा इकट्ठा किया, बिना सहमति 50m तक उपयोगकर्ता डेटा
पर्सनैलिटी/राजनीतिक प्रोफाइलिंग, मन बदलने की संभावना वाले लोगों को लक्षित विज्ञापन
US, UK और दुनिया भर के कई चुनावों में उपयोग हुआ

¹ छवि स्रोत: The Guardian

एक स्वचालित निर्णय का चित्रण जहाँ कंप्यूटर परिणाम तय करता है.

¹ ARTICLE 29 WORKING PARTY: स्वचालित व्यक्तिगत निर्णय-निर्माण और प्रोफाइलिंग पर दिशानिर्देश विनियमन 2016/679 के प्रयोजनों के लिए

एक बैंक मैनेजर का चित्रण जो कुछ व्यक्तियों को यह नहीं समझा पा रहा कि ऋण क्यों स्वीकार या अस्वीकार हुआ.

GDPR को समझना