Cosa fare con i data bias?

Introduzione all'etica dei dati

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

Che cos'è un bias?

Immagine di un giudizio distorto

  • Primo pensiero nell'etica dei dati
  • Pregiudizio, a favore o contro una persona, un gruppo o un'idea: ingiusto
  • Etica dei dati: data bias
  • Rappresentazione insufficiente, eccessiva o sbagliata
  • Effetti dannosi se si utilizzano dati distorti per il processo decisionale
1 Icona realizzata da noomtah da www.flaticon.com
Introduzione all'etica dei dati

Sempre e ovunque

  • In tutte le fasi dei dati e del loro ciclo di vita
  • Raccolta dati
  • Pulizia, preparazione e sviluppo dei dati
  • Etichettatura dei dati

Immagine dei data bias nelle diverse fasi del ciclo di vita dei dati che alimentano gli algoritmi distorti

Introduzione all'etica dei dati

Bias specifici dei dati

  • Bias del processo tecnico o statistico

    • Bias di campionamento: rappresentazione
    • Bias di misurazione
    • Bias di autovalutazione
    • Bias di etichettatura
  • Bias umani e sistematici

    • Genere
    • Etnia/minoranze
    • Cultura

Immagine di un oggetto distorto vs. la sua immagine reale.

1 Icona realizzata da Flowicon da www.flaticon.com
Introduzione all'etica dei dati

La rappresentanza è fondamentale

Screenshot della Ted Talk di Joy con una foto di lei che indossa una maschera bianca

  • Mancanza di dati rappresentativi
  • Riconoscimento facciale: risultati migliori con una maschera bianca
  • Distributori di sapone per le mani per risultati sanitari
  • Consigliato: Bias codificati
1 https://www.ted.com/talks/joy_buolamwini_how_i_m_fighting_bias_in_algorithms
Introduzione all'etica dei dati

Uno specchio dei nostri stereotipi

Immagine dei diversi sintomi di un attacco cardiaco per un uomo con costrizione toracica e una donna con dolore alla schiena.

  • Studi e dati medici, storicamente condotti su maschi bianchi
  • Ad es. I sintomi dell'infarto sono diversi per uomini e donne
  • Cosa succede se utilizziamo un'app di diagnostica con questi dati?
1 https://womeningh.org/
Introduzione all'etica dei dati

Grave impatto

Screenshot di una diagnosi di un'app sanitaria per i sintomi di infarto per uomini e donne.

  • I sintomi dell'infarto: emergenza per un uomo, attacco di panico per una donna
Introduzione all'etica dei dati

Troppi e in continuo aumento!

Immagini dei diversi bias cognitivi.

1 CC BY, John Manoogian III (JM3)
Introduzione all'etica dei dati

La punta del iceberg

Immagine di un iceberg con bias statistici sulla punta e bias umani e bias sistematici sotto

  • I bias statistici sono la punta dell'iceberg
  • Bias umani e sistematici: atteggiamenti e cambiamenti sociali
  • Test di bias, prevenzione e mitigazione, aperti al feedback
1 Schwartz, R., Vassilev, A., Greene, K., Perine, L., Burt, A. and Hall, P. (2022), Towards a Standard for Identifying and Managing Bias in Artificial Intelligence, National Institute of Standards and Technology
Introduzione all'etica dei dati

Passiamo alla pratica!

Introduzione all'etica dei dati

Preparing Video For Download...