Bias negli algoritmi

Conquering Data Bias

Konstantinos Kattidis

Data Analytics Lead

IA e bias nei dati

L’IA ha vari casi d’uso:

Raccomandazioni personalizzate
Navigazione dei percorsi

Cosa succede se gli algoritmi diventano di parte verso gruppi come genere o razza?

Casi d’uso dell’IA

Bias algoritmico

Il bias algoritmico nasce quando gli algoritmi producono errori sistematici e ripetuti che portano a esiti ingiusti, favorendo un gruppo rispetto a un altro

Include vari tipi di bias che possono emergere nello sviluppo e nel deployment degli algoritmi

Bias durante il training dell’algoritmo

Il bias algoritmico spesso inizia con bias nella raccolta dei dati
Se i dati di training sono non rappresentativi o distorti, l’algoritmo può apprendere e perpetuare quei bias
Esempio: rappresentanza insufficiente di gruppi diversi in un algoritmo di riconoscimento facciale

Bias di selezione

Bias nella selezione delle feature

Il bias nella selezione delle feature avviene quando certe feature vengono scelte con criteri che portano a esiti ingiusti o discriminatori
Tali feature includono razza, genere o altre caratteristiche protette
Esempio: un algoritmo per l’approvazione di prestiti presume che il reddito sia l’unico fattore rilevante

Bias di valutazione

Usare un dataset non rappresentativo nella fase di testing può creare bias di valutazione
Per esempio:
- Un algoritmo di raccomandazione di film
- Valuta le performance su un solo genere
- Ignora che possa funzionare peggio per altri generi come romance o commedia

Bias di valutazione, testando un solo genere

Automation bias

Automazione della diagnosi da risonanza magnetica

La tendenza delle persone ad affidarsi troppo ai sistemi automatici

Per esempio:
- Un sistema diagnostico analizza immagini mediche come le risonanze
- Si ha automation bias se i risultati sono accettati senza revisione o conferma
- Questo può portare a diagnosi errate

Passiamo alla pratica !

Conquering Data Bias