Etiska överväganden i beslutsfattande

Beslutsvetenskap på djupet

Akshay Swaminathan

PD Soros Fellow at Stanford University School of Medicine

Data Science-ansvarets tyngd

Data Science driver beslut inom många branscher
Etisk användning är avgörande för förtroende och rättvisa

Fallstudie: Optum

Optums algoritm gynnade oavsiktligt friskare patienter
- Den var utformad för att förutsäga vårdbehov, men prioriterade dem med högre sjukvårdsutgifter
Snedvridningen uppstod ur felaktiga dataantaganden
- Att använda utgifter som mått på behov ledde till rasbaserade skillnader och missgynnade dem med sämre tillgång till vård

Rättvisa

Integritet och säkerhet

Transparens och reproducerbarhet

Datans samhällspåverkan

Snedvridning i maskininlärningsmodeller

bias data.png

Snedvridna indata ger snedvridna utdata

Maskininlärningsmodeller återspeglar snedvridningar och luckor i den data de tränats på

Rättvisa kan mätas

Utvärdera modellens prestanda för olika grupper för att bedöma rättvisan

Dataskydd

Beslutsvetare och organisationer måste säkerställa en säker och ansvarsfull datahantering

Innefattar:

Säker infrastruktur med uppdaterat skydd
Begränsad åtkomst: enbart nödvändiga data per roll
Samtyckesbaserad insamling av personuppgifter

Därför spelar det roll:

Intrång urholkar förtroendet
Kan leda till rättsliga processer
Skadar anseende och lönsamhet

Transparens

Säkerställer tydlighet och ansvarsskyldighet

Redovisa datakällor, rensningssteg, analysmetoder, insamlade mätvärden och osäkerhetsnivåer

Reproducerbarhet

Reproducerbarhet bygger förtroende och trovärdighet

Andra ska kunna upprepa analysen med samma data och metoder och få samma resultat

Etiken i centrum för beslutsvetenskap

Etiska överväganden är en integrerad del av ansvarsfull beslutsvetenskap

Etik är inte valfritt – det är nödvändigt
Prioritera rättvisa, rimlighet och nytta
Tillämpa etiska principer genom hela datas livscykel

Nu kör vi en övning!

Beslutsvetenskap på djupet

Preparing Video For Download...