Démêler le dilemme des données

Maîtriser les biais de données

Konstantinos Kattidis

Data Analytics Lead

Les données au cœur des décisions

La prise de décision fondée sur les données a transformé les secteurs dans le monde entier
L’adoption des données et de l’IA s’étend à des domaines clés :
- Justice sociale
- Sélection de candidats
- Interfaces interactives (assistants virtuels)

Cas d’usage de la décision pilotée par les données

Avec ces avancées, des inquiétudes émergent sur la présence de biais dans ces solutions.

Tri de CV

Amazon a abandonné son modèle d’évaluation des candidats à l’emploi car il favorisait les hommes

Ils surviennent quand les données sont limitées et donnent une image inexacte ou injuste de la population
Ils résultent de facteurs tels que :
- Déséquilibres et sous-représentation
- Préjugés historiques
- Biais cognitifs
Ils dégradent la précision et la fiabilité des données, nuisant à leur efficacité pour éclairer les décisions

Origines des biais de données

Le modèle d’Amazon a été entraîné sur des CV soumis sur 10 ans.
Durant cette période, les candidats masculins ont été embauchés ou favorisés de manière disproportionnée.
Le modèle était biaisé en faveur des hommes à cause de ces pratiques historiques.
Corriger les biais exige d’examiner la qualité des jeux de données et les processus humains.

Cartons Amazon et tri de CV

Vaincre les biais

Chapitre 1 - Comprendre l’impact des biais de données sur la décision et pourquoi il faut les prendre en compte.

Chapitre 2 - Découvrir les types de biais lors de la collecte et comment les réduire.

Chapitre 3 - Identifier les biais courants en analyse et lors du partage des résultats, et comment les atténuer.

Maîtriser les biais de données