Atténuation des biais

Gestion responsable des données en AI

Maria Prokofieva

Lead ML engineer

Nous verrons

Stratégies tout au long du cycle de projet
Rééchantillonnage et réaffectation de poids
Réétiquetage et retrait des attributs sensibles
Apprentissage antagoniste et re-étalonnage du modèle
Comportement des utilisateurs
Contraintes d'équité et choix d'algorithme
D'autres stratégies existent

Retour sur les biais

Erreurs systématiques ou préjugés
Résultats inéquitables pour des groupes ou des personnes

Biais en IA

¹ Image : Streamline HQ

Biais à travers le projet

Dans les données brutes
En prétraitement
En modélisation
Après le déploiement

cycle de vie

Biais en prétraitement

Rééchantillonnage
Réaffectation de poids
Réétiquetage
Retrait des attributs sensibles

Stratégies en prétraitement

Rééchantillonnage :
- Ajuster la distribution pour équilibrer les classes
Réaffectation de poids :
- Corriger les biais avec des poids de classe, taille de jeu de données inchangée
Réétiquetage :
- Mettre à jour les étiquettes pour mieux représenter la cible
Retrait des attributs sensibles :
- Retirer les attributs protégés

Biais en modélisation

Biais provenant de l'algorithme
Apprentissage antagoniste
Contraintes d'équité
Choix d'algorithmes plus simples, robustes ou généralisables

Conseiller financier

Biais liés aux disparités économiques régionales
Apprentissage antagoniste pour corriger les biais
Arbres de décision et modèles linéaires régularisés

conseiller financier

¹ Image : Streamline HQ

Biais après déploiement et à l'usage

Surveiller les biais pour éviter la dérive du modèle
Re-étalonnage du modèle
Mauvaise utilisation de l'application

application en usage

¹ Image : Streamline HQ

Conseiller financier

Dérive du modèle :

Économie de travail autonome sous-représentée

Mauvais usage :

Mise à jour des renseignements financiers

conseiller financier

¹ Image : Streamline HQ

Passons à la pratique !

Gestion responsable des données en AI

Preparing Video For Download...