Atténuation des biais

Gestion responsable des données pour l’IA

Maria Prokofieva

Lead ML engineer

Nous verrons

• Stratégies tout au long du cycle de vie
• Rééchantillonnage et ré‑pondération
• Ré‑étiquetage et suppression d’attributs sensibles
• Entraînement adverse et recalibrage du modèle
• Comportement des utilisateurs
• Contraintes d’équité et choix d’algorithme
• D’autres stratégies existent

Rappel sur les biais

• Erreurs systémiques ou préjugés
• Résultats injustes pour des groupes ou individus

¹ Image par Streamline HQ

Biais tout au long du projet

• Dans les données brutes
• En prétraitement
• En modélisation
• Après déploiement

Biais en prétraitement

• Rééchantillonnage
• Ré‑pondération
• Ré‑étiquetage
• Suppression d’attributs sensibles

Stratégies en prétraitement

• Rééchantillonnage :
  • Ajuster la distribution pour équilibrer les classes
• Ré‑pondération :
  • Corriger les biais avec des poids de classe, taille inchangée
• Ré‑étiquetage :
  • Mettre à jour les labels pour mieux cibler
• Suppression d’attributs sensibles :
  • Retirer les attributs protégés

Biais en modélisation

• Biais dus à l’algorithme
• Entraînement adverse
• Contraintes d’équité
• Choix d’algorithme plus simple, robuste ou généralisable

Conseiller financier

• Biais liés aux disparités économiques régionales
• Entraînement adverse pour corriger le biais
• Arbres de décision et modèles linéaires régularisés

¹ Image par Streamline HQ

Biais après déploiement et à l’usage

• Suivre les biais pour éviter la dérive du modèle
• Recalibrage du modèle
• Mauvais usage de l’application

¹ Image par Streamline HQ

Conseiller financier

Dérive du modèle :

• Économie freelance sous‑représentée

Mauvais usage :

• Mise à jour des informations financières

¹ Image par Streamline HQ

Passons à la pratique !

Gestion responsable des données pour l’IA