Biais dans les algorithmes

Maîtriser les biais de données

Konstantinos Kattidis

Data Analytics Lead

IA et biais des données

L'IA a divers usages :

  • Recommandations personnalisées
  • Navigation d'itinéraires

 

Que se passe-t-il si les algorithmes deviennent biaisés envers certains groupes, comme le genre ou la race ?

Cas d'utilisation de l'IA

Maîtriser les biais de données

Biais algorithmique

Biais algorithmique

Le biais algorithmique survient lorsque des algorithmes produisent des erreurs systématiques et répétables menant à des résultats injustes, favorisant un groupe plutôt qu'un autre

  • Il englobe divers types de biais pouvant émerger lors du développement et du déploiement des algorithmes
Maîtriser les biais de données

Biais durant l'entraînement de l'algorithme

  • Le biais algorithmique débute souvent par un biais dans la collecte des données
  • Si les données d'entraînement sont non représentatives ou biaisées, l'algorithme peut apprendre et perpétuer ces biais
  • Par exemple : représentation insuffisante de groupes divers dans un algorithme de reconnaissance faciale

Biais de sélection

Maîtriser les biais de données

Biais dans la sélection des caractéristiques

Biais de sélection des caractéristiques

  • Le biais de sélection des caractéristiques survient quand certaines caractéristiques sont retenues selon des critères menant à des résultats injustes ou discriminatoires
  • Telles caractéristiques : la race, le genre ou d'autres attributs protégés
  • Par exemple, un algorithme de prédiction d'approbation de prêts peut supposer que le revenu est le seul facteur pertinent
Maîtriser les biais de données

Biais d'évaluation

  • Utiliser un ensemble de données non représentatif durant la phase de test peut entraîner un biais d'évaluation
  • Par exemple :
    • Un algorithme de recommandation de films
    • Évaluer la performance sur un seul genre
    • Sans voir qu'il fonctionne mal pour d'autres genres comme la romance ou la comédie

Biais d'évaluation, test d'un seul genre

Maîtriser les biais de données

Biais d'automatisation

Automatisation du diagnostic par IRM

Tendance des personnes à se fier excessivement aux systèmes automatisés

  • Par exemple :
    • Un système de diagnostic médical sert à analyser des images médicales, comme des IRM
    • Un biais d'automatisation survient si l'on fait confiance aux résultats sans réviser ni confirmer les conclusions
    • Cela peut mener à des diagnostics erronés
Maîtriser les biais de données

Passons à la pratique !

Maîtriser les biais de données

Preparing Video For Download...