Etické aspekty rozhodování

Demystifikace rozhodovací vědy

Akshay Swaminathan

PD Soros Fellow at Stanford University School of Medicine

Odpovědnost datové vědy

  • Datová věda podporuje rozhodování napříč odvětvími

  • Etické využití je nezbytné pro důvěru a spravedlnost

  ethical.png

Demystifikace rozhodovací vědy

Případová studie: Optum

  • Algoritmus Optuму neúmyslně zvýhodňoval zdravější pacienty

    • Navržen k predikci potřeb péče, upřednostňoval pacienty s vyššími výdaji na zdravotní péči

  • Předsudek vznikl z chybných předpokladů o datech

    • Použití výdajů jako náhrady za potřebu vedlo k rasovým nerovnostem a znevýhodňovalo osoby s omezeným přístupem k péči

  optum.png

Demystifikace rozhodovací vědy

Spravedlnost

fairness.png

Soukromí a bezpečnost

privacy.png

Transparentnost a reprodukovatelnost

transp.png

Společenský dopad dat

socialimpact.png

Demystifikace rozhodovací vědy

Předsudky v modelech strojového učení

  bias data.png

Zkreslená data = zkreslené výsledky

  • Modely strojového učení odrážejí předsudky a mezery v trénovacích datech

 

Spravedlnost lze měřit

  • Hodnoťte výkon modelu napříč skupinami pro posouzení spravedlnosti
Demystifikace rozhodovací vědy

Ochrana dat

Datoví vědci a organizace musí zajistit bezpečné a odpovědné nakládání s daty

Zahrnuje:

  • Bezpečná infrastruktura s aktuální ochranou
  • Omezený přístup: pouze minimální potřebná data dle role
  • Sběr osobních dat na základě souhlasu

Proč na tom záleží:

  • Úniky dat snižují důvěru
  • Mohou vést k soudním sporům
  • Poškozují reputaci a ziskovost

dataprotection.png

Demystifikace rozhodovací vědy

Transparentnost

 

Zajišťuje srozumitelnost a zodpovědnost

  • Uvádějte zdroje dat, kroky čištění, analytické metody, měřené metriky a míru nejistoty

Reprodukovatelnost

 

Reprodukující buduje důvěru a věrohodnost

  • Ostatní by měli být schopni zopakovat analýzu se stejnými daty a metodami a získat stejné výsledky
Demystifikace rozhodovací vědy

Etika jako základ rozhodovací vědy

Etické aspekty jsou nedílnou součástí odpovědné rozhodovací vědy

  • Etika není volitelná – je nezbytná
  • Upřednostňujte spravedlnost a prospěch
  • Uplatňujte etické zásady v celém životním cyklu dat

ethicssummary.png

Demystifikace rozhodovací vědy

Pojďme si procvičit!

Demystifikace rozhodovací vědy

Preparing Video For Download...