सामाजिक पक्षपात का मूल्यांकन और कमी

जनरेटिव AI कॉन्सेप्ट्स

Daniel Tedesco

Data Lead, Google

सामाजिक पक्षपात से हमारा क्या मतलब है?

$$ $$

जनरेटिव AI में तंत्रगत अन्याय

$$ $$

एक नौकरी का इंटरव्यू.

असंतुलित तराजू

टेढ़ा या अप्रतिनिधिक प्रशिक्षण डेटासेट

दो ट्रेनिंग फ़नल. एक में बैंगनी वर्ग ट्रेनिंग में जाते हैं और केवल बैंगनी वर्ग बनते हैं. दूसरे में कई रंगों के आकार जाते हैं और विविध आकार बनते हैं

ऐसे लक्ष्य साधना जिनसे पक्षपाती नतीजे आएँ

यूएन में भाषण देता फोटो-यथार्थवादी रोबोट राजनेता

AI का गलत या दुर्भावनापूर्ण उपयोग

लैपटॉप पर एक वीडियो, जिस पर बड़ा "FAKE" लेबल है.

Representation analysis जाँचता है कि मॉडल अलग समूहों का उल्लेख कैसे करता है
Fairness metrics समूहों में समान व्यवहार, अवसर, और सटीकता के लिए मॉडलों का मूल्यांकन करती हैं
Human audits में लोग मॉडल के आउटपुट की समीक्षा कर पक्षपात पहचानते हैं

विभिन्न रंगों के आकारों का संग्रह और उनका एक प्रतिनिधिक सैंपल चयनित

जनरेटिव AI कॉन्सेप्ट्स