Valutare e mitigare i bias sociali

Concetti di IA generativa

Daniel Tedesco

Data Lead, Google

Cosa intendiamo per bias sociale?

$$ $$

Ingiustizia sistematica nell’IA generativa

Gravi conseguenze sociali
L’equità può essere soggettiva
Punta a valori ampiamente condivisi

$$ $$

Un colloquio di lavoro.

Dove emerge il bias

Dati di addestramento
Il modello stesso
Come il modello viene usato

Bilancia sbilanciata

Bias nei dati

Dati distorti o non rappresentativi nel dataset di training

Due imbuto di training. Uno mostra quadrati viola in ingresso e solo quadrati viola generati. L’altro mostra forme di vari colori in ingresso e una varietà di forme generate

Bias nei modelli

Obiettivi che portano a risultati distorti

Politico robot fotorealistico che tiene un discorso all’ONU

Bias nell’uso

Applicare l’IA in modi sbagliati o malevoli

Laptop che mostra un video con un grande etichetta "FAKE".

Individuare bias in dati e modelli

Analisi di rappresentazione confronta come il modello si riferisce ai diversi gruppi
Metriche di equità valutano parità di trattamento, opportunità e accuratezza tra gruppi
Audit umani chiedono a persone reali di rivedere gli output per individuare bias

Mitigare i bias in dati e modelli

Diversifica la raccolta dati
Regola il modello per dare priorità a dati diversi
Addestramento avversario
Miglioramento continuo

Una raccolta di forme di vari colori con un campione rappresentativo selezionato

Passons à la pratique !

Concetti di IA generativa