Considerații etice în luarea deciziilor

Demistificarea științei decizionale

Akshay Swaminathan

PD Soros Fellow at Stanford University School of Medicine

Responsabilitatea științei datelor

  • Știința datelor susține decizii în toate industriile

  • Utilizarea etică este esențială pentru încredere și echitate

  ethical.png

Demistificarea științei decizionale

Studiu de caz: Optum

  • Algoritmul Optum a favorizat neintenționat pacienții mai sănătoși

    • Conceput pentru a anticipa nevoile de îngrijire, a prioritizat pacienții cu cheltuieli medicale mai mari

  • Biasul a apărut din ipoteze eronate privind datele

    • Utilizarea cheltuielilor ca indicator al nevoii a generat disparități rasiale, dezavantajând persoanele cu acces limitat la îngrijire

  optum.png

Demistificarea științei decizionale

Echitate

fairness.png

Confidențialitate și securitate

privacy.png

Transparență și reproductibilitate

transp.png

Impactul social al datelor

socialimpact.png

Demistificarea științei decizionale

Prejudecăți în modelele de machine learning

  bias data.png

Bias la intrare = Bias la ieșire

  • Modelele de machine learning reflectă prejudecățile și lacunele din datele de antrenament

 

Corectitudinea poate fi măsurată

  • Evaluați performanța modelului pe diferite grupuri pentru a analiza corectitudinea
Demistificarea științei decizionale

Protecția datelor

Oamenii de știință ai datelor și organizațiile trebuie să asigure gestionarea sigură și responsabilă a datelor

Implică:

  • Infrastructură securizată cu protecții actualizate
  • Acces restricționat: doar datele minime necesare per rol
  • Colectarea datelor personale pe bază de consimțământ

De ce contează:

  • Breșele reduc încrederea
  • Pot duce la procese juridice
  • Afectează reputația și profitabilitatea

dataprotection.png

Demistificarea științei decizionale

Transparență

 

Asigură claritate și responsabilitate

  • Raportați sursele de date, etapele de curățare, metodele de analiză, metricile colectate și nivelurile de incertitudine

Reproductibilitate

 

Reproductibilitatea construiește încredere și credibilitate

  • Alții trebuie să poată repeta analiza cu aceleași date și metode și să obțină aceleași rezultate
Demistificarea științei decizionale

Etica în centrul științei deciziei

Considerațiile etice sunt esențiale pentru o știință a deciziei responsabilă

  • Etica nu este opțională - este esențială
  • Prioritizați echitatea, dreptatea și beneficiul
  • Aplicați principii etice pe tot parcursul ciclului de viață al datelor

ethicssummary.png

Demistificarea științei decizionale

Să exersăm!

Demistificarea științei decizionale

Preparing Video For Download...