Ethische overwegingen bij besluitvorming

De mystiek van Decision Science ontrafeld

Akshay Swaminathan

PD Soros Fellow at Stanford University School of Medicine

De verantwoordelijkheid van Data Science

  • Data Science ondersteunt besluiten in alle sectoren

  • Ethisch gebruik is cruciaal voor vertrouwen en eerlijkheid

  ethiek.png

De mystiek van Decision Science ontrafeld

Casestudy: Optum

  • Optums algoritme bevoordeelde onbedoeld gezondere patiënten

    • Ontworpen om zorgbehoefte te voorspellen, maar gaf prioriteit aan hogere zorguitgaven

  • Bias ontstond door foutieve data-aanname

    • Uitgaven als proxy voor behoefte veroorzaakten rassendispariteiten en benadeelden mensen met minder toegang tot zorg

  optum.png

De mystiek van Decision Science ontrafeld

Eerlijkheid

eerlijkheid.png

Privacy en beveiliging

privacy.png

Transparantie en reproduceerbaarheid

transparantie.png

De maatschappelijke impact van data

maatschappelijke impact.png

De mystiek van Decision Science ontrafeld

Bias in machinelearningmodellen

  vooroordeel data.png

Bias in = bias out

  • ML-modellen weerspiegelen vooroordelen en gaten in hun trainingsdata

 

Eerlijkheid is meetbaar

  • Beoordeel modelprestaties per groep om eerlijkheid te toetsen
De mystiek van Decision Science ontrafeld

Data beschermen

Decision scientists en organisaties moeten data veilig en verantwoord behandelen

Omvat:

  • Veilige infrastructuur met actuele beveiliging
  • Beperkte toegang: per rol alleen minimale data
  • Toestemmingsgebonden verzameling van persoonsgegevens

Waarom het telt:

  • Datalekken schaden vertrouwen
  • Kunnen tot rechtszaken leiden
  • Schade aan reputatie en winstgevendheid

databescherming.png

De mystiek van Decision Science ontrafeld

Transparantie

 

Zorgt voor duidelijkheid en verantwoording

  • Rapporteer datasources, opschoning, analysemethoden, gemeten metrics en onzekerheid

Reproduceerbaarheid

 

Reproduceerbaarheid bouwt vertrouwen en geloofwaardigheid

  • Anderen moeten met dezelfde data en methode dezelfde uitkomsten krijgen
De mystiek van Decision Science ontrafeld

Ethiek centraal in besliskunde

Ethische overwegingen zijn essentieel voor verantwoorde besliskunde

  • Ethiek is niet optioneel, maar essentieel
  • Geef voorrang aan eerlijkheid, rechtvaardigheid en maatschappelijk nut
  • Pas ethiek toe in de hele datalevenscyclus

ethieksamenvatting.png

De mystiek van Decision Science ontrafeld

Laten we oefenen!

De mystiek van Decision Science ontrafeld

Preparing Video For Download...