AI जोखिम आकलन

Artificial Intelligence (AI) Strategy

Vidhi Chugh

AI strategist and ethicist

एथिकल गार्डरेल्स

 

• UNESCO
  • गार्डरेल्स की ज़रूरत
  • पक्षपात और भेदभाव जैसे जोखिम रोकें
  • मूलभूत मानव अधिकार

 

¹ https://www.unesco.org/en/artificial-intelligence/recommendation-ethics

AI जोखिम

 

• National Institute of Standards and Technology (NIST)

  

 

• घटना की संभावना
• परिणामों की तीव्रता

¹ https://www.nist.gov/artificial-intelligence

डेटा जोखिम

• डेटा गोपनीयता
  • संवेदनशील जानकारी

• डेटा बायस
  • सामाजिक पक्षपात बनाए रखना  

AI की चूक

 

• जेंडर बायस

 

• नस्ली भेदभाव

डेटा गोपनीयता उल्लंघन

• GDPR अनुपालन न करने पर भारी जुर्माना
• डेटा का गैरकानूनी प्रोसेसिंग
• चेहरे की पहचान हेतु स्क्रेप्ड इमेजेज

 

व्यावसायिक प्रभाव

कानूनी

व्यावसायिक प्रभाव

कानूनी, साख से जुड़े

व्यावसायिक प्रभाव

कानूनी, साख और वित्तीय हानि।

एथिकल फ्रेमवर्क्स

एथिकल फ्रेमवर्क्स

एथिकल फ्रेमवर्क्स

जोखिम आकलन के मुख्य स्तंभ

                प्राइवेसी

                निष्पक्षता

             पारदर्शिता

             जवाबदेही

रेगुलेशंस और अनुपालन

• AI प्रोजेक्ट लाइफसाइकल

• रेगुलेशंस और अनुपालन
  • जवाबदेही के लिए गवर्नेंस जरूरी
  • भूमिकाएँ और जिम्मेदारियाँ तय करें
  • डेटा प्राइवेसी नियमों का अनुपालन
  • यूज़र की सहमति लें और डेटा अनॉनिमाइज़ करें

डेटा संग्रह और तैयारी

आकलन

• अंदर उपलब्ध या बाहर से प्रोक्योर करें?
• संवेदनशील जानकारी, जैसे Personal Identifiable Information (PII)?
• जनसंख्या अच्छा-खासा प्रतिनिधित्वित है?

निवारण

• डेटा इंटीग्रिटी के लिए प्रोसेस
• पहचानकर्ता एन्क्रिप्शन, सिंथेटिक डेटा जनरेशन
• बैलेंस्ड डेटा बनाएँ

मॉडल विकास और मूल्यांकन

• मॉडल के नतीजों की व्याख्या करें
  • व्याख्या और बायस पहचान
  • सभी श्रेणियों में निष्पक्षता

मॉडल डिप्लॉयमेंट और मॉनिटरिंग

 

• प्रभाव की डिग्री

• निवारण रणनीतियाँ स्थापित करें

 

 

• हेल्थकेयर और फाइनेंस में लागत अधिक

• मॉडल का व्यवहार फिर से संरेखित करें

 

अभ्यास करते हैं!

Artificial Intelligence (AI) Strategy