Considerazioni etiche nelle decisioni

Svelare la Decision Science

Akshay Swaminathan

PD Soros Fellow at Stanford University School of Medicine

La responsabilità della Data Science

  • La Data Science guida decisioni in tutti i settori

  • Uso etico essenziale per fiducia ed equità

  etica.png

Svelare la Decision Science

Caso di studio: Optum

  • L’algoritmo di Optum ha favorito involontariamente i pazienti più sani

    • Progettato per prevedere i bisogni di cura, ha dato priorità a chi spendeva di più in sanità

  • Il bias deriva da assunzioni errate sui dati

    • Usare la spesa come proxy del bisogno ha creato disparità razziali, penalizzando chi ha meno accesso alle cure

  optum.png

Svelare la Decision Science

Fairness

equità.png

Privacy e sicurezza

privacy.png

Trasparenza e riproducibilità

trasparenza.png

Impatto sociale dei dati

impatto sociale.png

Svelare la Decision Science

Bias nei modelli di machine learning

  dati con bias.png

Bias in = Bias out

  • I modelli ML riflettono bias e lacune dei dati di training

 

La fairness si può misurare

  • Valuta le prestazioni su gruppi diversi per misurare l’equità
Svelare la Decision Science

Proteggere i dati

Data scientist e organizzazioni devono gestire i dati in modo sicuro e responsabile

Include:

  • Infrastruttura sicura e aggiornata
  • Accessi limitati: solo i dati minimi per ruolo
  • Raccolta dati personali con consenso

Perché conta:

  • Le violazioni riducono la fiducia
  • Possono portare a cause legali
  • Danneggiano reputazione e profitti

protezione dati.png

Svelare la Decision Science

Trasparenza

 

Garantisce chiarezza e responsabilità

  • Riporta fonti dati, pulizia, metodi, metriche raccolte e livelli di incertezza

Riproducibilità

 

La riproducibilità crea fiducia e credibilità

  • Altri devono poter ripetere l’analisi con stessi dati e metodi ottenendo gli stessi risultati
Svelare la Decision Science

L’etica al centro della decision science

Le considerazioni etiche sono centrali nella decision science responsabile

  • L’etica non è opzionale: è fondamentale
  • Dai priorità a equità, giustizia e beneficio
  • Applica principi etici in tutto il ciclo dei dati

riepilogo etica.png

Svelare la Decision Science

Ayo berlatih!

Svelare la Decision Science

Preparing Video For Download...