जोखिम और अवसर

GDPR को समझना

Shalini Kurapati, CIPP/E

Co-founder and CEO, Clearbox AI

AI और बिग डेटा के बड़े अवसर

AI के 2030 तक वैश्विक अर्थव्यवस्था में योगदान की भविष्यवाणी पर वर्ल्ड इकोनॉमिक फोरम ब्लॉग के शीर्षक का स्क्रीनशॉट.

21वीं सदी की डिसरप्टिव टेक्नोलॉजी
डेटा उपलब्धता और कंप्यूटेशनल संसाधनों पर आधारित इनोवेशन
प्रतिस्पर्धात्मक बढ़त

AI for good

AI अपनाने से तेज होने वाले UN के सतत विकास लक्ष्यों का चित्र, शीर्षक AI for Good Gateway.

सिर्फ आर्थिक लाभ नहीं, SDGs के लिए AI for Good
क्लाइमेट चेंज, हेल्थकेयर, शिक्षा तक पहुँच
जोखिम-लाभ की समझ से GDPR-अनुपालक विकल्प

¹ https://aiforgood.itu.int/

GDPR जुर्माने: भेदभावकारी AI

एल्गोरिदमिक भेदभाव पर इटालियन SA ने एक डिलीवरी ऐप पर जुर्माना लगाया इटालियन सुपरवाइजरी अथॉरिटी के लोगो का चित्रण.

डिलीवरी कंपनी: राइडर्स की प्रोफाइलिंग, ऑर्डर असाइनमेंट में भेदभाव
GDPR कमियों पर 2.6 मिलियन यूरो का जुर्माना
डेटा मिनिमाइजेशन, पारदर्शिता, डेटा क्वालिटी, बायस और भेदभाव; ऑटोमेटेड डिसीजन-मेकिंग और प्रोफाइलिंग से जुड़े मुद्दे

¹ https://www.gpdp.it/web/guest/home/docweb/-/docweb-display/docweb/9677377 https://edpb.europa.eu/news/national-news/2021/riders-italian-sa-says-no-algorithms-causing-discrimination-platform-glovo_en

डेटा प्रोटेक्शन और उससे आगे

डिस्क्लोज़र जोखिम

पर्सनल डेटा का खुलासा
समेकित डेटा में भी संभव
DPIA: शेष जोखिम
कोई व्यावहारिक व्याख्या नहीं

उदाहरण

AI मेडिकल इमेजिंग
नस्ल की भविष्यवाणी (अत्यंत संवेदनशील)
प्राइवेसी और बायस का मुद्दा

¹ Gichoya, Judy Wawira, et al. AI recognition of patient race in medical imaging: a modelling study, The Lancet Digital Health, Volume 4, Issue 6, 2022,

संतुलन बनाना

AI सिस्टम को GDPR सिद्धांतों का पालन करना चाहिए
विशेष सुरक्षा उपाय
डेटा की विशेष श्रेणियाँ
ऑटोमेटेड डिसीजन-मेकिंग और प्रोफाइलिंग पर प्रतिबंध

अपवाद:
- अनुबंध के निर्वहन के लिए
- सार्वजनिक हित
- स्पष्ट सहमति
GDPR AI के संगत है, सभी पहलू कवर नहीं करता
आने वाला AI Act

अभ्यास करते हैं!

GDPR को समझना