निर्णय-निर्माण में नैतिक विचार

Decision Science समझना

Akshay Swaminathan

PD Soros Fellow at Stanford University School of Medicine

Data Science की जिम्मेदारी

  • Data Science उद्योगों में निर्णयों को सशक्त बनाती है

  • भरोसा और निष्पक्षता के लिए नैतिक उपयोग ज़रूरी है

  ethical.png

Decision Science समझना

केस स्टडी: Optum

  • Optum के एल्गोरिदम ने अनजाने में स्वस्थ मरीजों को तरजीह दी

    • देखभाल की ज़रूरतें भविष्यवाणी करने को बना था, पर अधिक हेल्थकेयर खर्च वालों को प्राथमिकता दी
  • पूर्वाग्रह खराब डेटा मान्यताओं से उभरा

    • ज़रूरत के स्थान पर खर्च को प्रॉक्सी मानने से नस्लीय असमानताएँ बढ़ीं, कम पहुँच वाले मरीजों को नुकसान हुआ

  optum.png

Decision Science समझना

Fairness

fairness.png

गोपनीयता और सुरक्षा

privacy.png

पारदर्शिता और पुनरुत्पादकता

transp.png

डेटा का सामाजिक प्रभाव

socialimpact.png

Decision Science समझना

Machine learning मॉडलों में पक्षपात

  bias data.png

Bias in = Bias out

  • Machine learning मॉडल उसी डेटा के पक्षपात और खामियों को दर्शाते हैं जिन पर वे प्रशिक्षित होते हैं

 

निष्पक्षता मापी जा सकती है

  • अलग-अलग समूहों पर मॉडल का परफॉर्मेंस जाँचें ताकि निष्पक्षता आँकी जा सके
Decision Science समझना

डेटा की सुरक्षा

निर्णय वैज्ञानिकों और संगठनों को सुरक्षित और जिम्मेदार डेटा हैंडलिंग सुनिश्चित करनी चाहिए

इसमें शामिल है:

  • अपडेटेड प्रोटेक्शन वाली सुरक्षित इन्फ्रास्ट्रक्चर
  • सीमित एक्सेस: हर भूमिका के लिए केवल न्यूनतम आवश्यक डेटा
  • पर्सनल डेटा के लिए सहमति-आधारित कलेक्शन

क्यों ज़रूरी:

  • ब्रीच से भरोसा घटता है
  • मुकदमों का जोखिम बढ़ता है
  • साख और मुनाफ़े को नुकसान

dataprotection.png

Decision Science समझना

पारदर्शिता

 

स्पष्टता और जवाबदेही सुनिश्चित करती है

  • डेटा स्रोत, क्लीनिंग स्टेप्स, विश्लेषण विधियाँ, कलेक्टेड मेट्रिक्स, और अनिश्चितता के स्तर रिपोर्ट करें

पुनरुत्पादकता

 

पुनरुत्पादकता भरोसा और विश्वसनीयता बनाती है

  • अन्य लोग वही डेटा और तरीकों से विश्लेषण दोहराएँ और वही नतीजे पाएँ
Decision Science समझना

निर्णय विज्ञान के केंद्र में एथिक्स

नैतिक विचार जिम्मेदार निर्णय विज्ञान का अभिन्न हिस्सा हैं

  • एथिक्स वैकल्पिक नहीं, अनिवार्य है
  • निष्पक्षता, न्याय, और लाभ को प्राथमिकता दें
  • डेटा लाइफसाइकल में नैतिक सिद्धांत लागू करें

ethicssummary.png

Decision Science समझना

अभ्यास करते हैं!

Decision Science समझना

Preparing Video For Download...