Evaluarea și reducerea prejudecăților sociale

Concepte de AI generativ

Daniel Tedesco

Data Lead, Google

Ce înțelegem prin prejudecată socială?

$$ $$

Inechitate sistematică în AI generativ

Consecințe sociale grave
Echitatea poate fi subiectivă
Focus pe valori larg împărtășite

$$ $$

Un interviu de angajare.

Unde apare prejudecata

Datele de antrenament
Modelul în sine
Modul în care modelul este utilizat

Balanță dezechilibrată

Prejudecată în date

Informații distorsionate sau nereprezentative în setul de date de antrenament

Două pâlnii de antrenament. Una arată pătrate mov intrând în antrenament și doar pătrate mov generate. Cealaltă arată forme de diferite culori intrând în antrenament și forme variate generate

Prejudecată în modele

Urmărirea unor obiective care duc la rezultate părtinite

Robot fotorealist politician ținând un discurs la ONU

Prejudecată în utilizare

Utilizarea AI în moduri greșite sau malițioase

Laptop care afișează un videoclip cu eticheta uriașă „FAKE".

Identificarea prejudecăților în date și modele

Analiza reprezentării compară modul în care modelul se referă la diferite grupuri
Metrici de echitate evaluează modelele pentru tratament, oportunitate și acuratețe egale între grupuri
Auditurile umane solicită persoane reale să revizuiască rezultatele unui model pentru a identifica prejudecăți

Reducerea prejudecăților în date și modele

Diversificarea colectării datelor
Ajustarea modelului pentru a prioritiza date diferite
Antrenament adversarial
Îmbunătățire continuă

O colecție de forme de diferite culori și un eșantion reprezentativ selectat din ele

Să exersăm!

Concepte de AI generativ