Évaluer et atténuer les biais sociaux

Concepts en IA générative

Daniel Tedesco

Data Lead, Google

Que veut-on dire par biais social ?

$$ $$

Iniquités systémiques en IA générative

Graves conséquences sociales
L'équité peut être subjective
Viser des valeurs largement partagées

$$ $$

Une entrevue d'embauche.

Où apparaissent les biais

Les données d'entraînement
Le modèle lui-même
La façon dont le modèle est utilisé

Plateaux de balance déséquilibrés

Biais dans les données

Information biaisée ou peu représentative dans l'ensemble d'entraînement

Deux entonnoirs d'entraînement. L'un montre des carrés mauves entrant dans l'entraînement et seulement des carrés mauves générés. L'autre montre diverses formes colorées entrant dans l'entraînement et une variété de formes générées

Biais dans les modèles

Poursuivre des objectifs menant à des résultats biaisés

Politicien robot photoréaliste prononçant un discours à l'ONU

Biais à l'usage

Appliquer l'IA de manière inadéquate ou malveillante

Ordinateur portable affichant une vidéo avec une grande étiquette « FAKE ».

Détecter les biais dans les données et les modèles

Analyse de représentation : comparer comment le modèle désigne différents groupes
Mesures d'équité : évaluer l'égalité de traitement, d'occasion et de justesse entre groupes
Audits humains : demander à de vraies personnes d'examiner les sorties du modèle pour repérer des biais

Atténuer les biais dans les données et les modèles

Diversifier la collecte de données
Ajuster le modèle pour prioriser d'autres données
Entraînement antagoniste
Amélioration continue

Un ensemble de formes de différentes couleurs et un échantillon représentatif sélectionné

Passons à la pratique !

Concepts en IA générative