Biais dans les algorithmes

Maîtriser les biais de données

Konstantinos Kattidis

Data Analytics Lead

IA et biais des données

L’IA a divers cas d’usage :

  • Recommandations personnalisées
  • Navigation d’itinéraire

 

Que se passe-t-il si les algorithmes deviennent biaisés contre certains groupes, comme le genre ou la race ?

Cas d’usage de l’IA

Maîtriser les biais de données

Biais algorithmique

Biais algorithmique

Le biais algorithmique apparaît quand des algorithmes produisent des erreurs systématiques et répétées menant à des résultats injustes, favorisant un groupe au détriment d’un autre

  • Il couvre divers types de biais pouvant émerger lors du développement et du déploiement des algorithmes
Maîtriser les biais de données

Biais lors de l’entraînement

  • Le biais algorithmique commence souvent par un biais de collecte des données
  • Si les données d’entraînement sont non représentatives ou biaisées, l’algorithme peut apprendre et reproduire ces biais
  • Exemple : représentation insuffisante de groupes divers dans un algorithme de reconnaissance faciale

Biais de sélection

Maîtriser les biais de données

Biais dans la sélection des variables

Biais de sélection des variables

  • Le biais de sélection des variables survient quand certaines variables sont choisies selon des critères pouvant mener à des résultats injustes ou discriminatoires
  • Telles que la race, le genre ou d’autres caractéristiques protégées
  • Par exemple, un algorithme de prédiction d’approbation de prêts peut supposer que seul le revenu est pertinent
Maîtriser les biais de données

Biais d’évaluation

  • Utiliser un jeu de test non représentatif lors de la phase de test peut créer un biais d’évaluation
  • Exemple :
    • Un algorithme de recommandation de films
    • Tester la performance sur un seul genre
    • Ignorer qu’il peut mal fonctionner pour d’autres genres, comme la romance ou la comédie

Biais d’évaluation, test d’un seul genre

Maîtriser les biais de données

Biais d’automatisation

Automatisation du diagnostic par IRM

Tendance des individus à trop se fier aux systèmes automatisés

  • Exemple :
    • Un système de diagnostic médical pour analyser des images comme les IRM
    • Un biais d’automatisation survient si l’on fait confiance aux résultats sans les vérifier ni les confirmer
    • Cela peut conduire à des diagnostics erronés
Maîtriser les biais de données

Passons à la pratique !

Maîtriser les biais de données

Preparing Video For Download...