Évaluer et atténuer les préjugés sociaux

Concepts d'IA générative

Daniel Tedesco

Data Lead, Google

Qu'entend-on par « préjugés sociaux » ?

$$ $$

Inégalité systématique dans l'IA générative

Graves conséquences sociétales
L'équité peut être subjective
Concentrez-vous sur des valeurs largement partagées

$$ $$

Un entretien d'embauche

Où apparaissent les préjugés

Données d'entraînement
Le modèle lui-même
Comment le modèle est-il utilisé ?

Balances déséquilibrées

Biais dans les données

Informations biaisées ou non représentatives dans l'ensemble de données d'entraînement

Deux entonnoirs d’entraînement. L'un d'eux montre des carrés violets entrant dans l’entraînement et ne générant que des carrés violets. L'autre montre une variété de formes colorées entrant dans l’entraînement et une variété de formes générées

Biais dans les modèles

Poursuivre des objectifs qui aboutissent à des résultats biaisés

Robot politicien photoréaliste prononçant un discours à l'ONU

Biais d'utilisation

Appliquer l'IA de manière erronée ou malveillante

Ordinateur portable montrant une vidéo avec une étiquette géante « FAKE »

Identifier les biais dans les données et les modèles

L’analyse de la représentation compare la manière dont le modèle se réfère à différents groupes.
Les mesures d'équité évaluent les modèles en termes d'égalité de traitement, d'opportunités et de précision entre les groupes.
Les audits humains demandent à des personnes réelles d'examiner les résultats d'un modèle afin d'identifier les biais.

Atténuer les biais dans les données et les modèles

Diversifier la collecte de données
Ajuster le modèle pour donner la priorité à différentes données
Entraînement contradictoire
Amélioration continue

Une collection de formes de différentes couleurs et un échantillon représentatif d'entre elles sélectionné

Passons à la pratique !

Concepts d'IA générative