Démêler le dilemme des données

Maîtriser les biais de données

Konstantinos Kattidis

Data Analytics Lead

Les données au service des décisions

La prise de décision fondée sur les données a transformé des secteurs partout dans le monde
L'adoption des données et de l'IA s'étend désormais à des domaines clés comme :
- Justice sociale
- Présélection des candidatures
- Interfaces interactives comme les assistants virtuels

Cas d'usage de la prise de décision fondée sur les données

Parallèlement à ces avancées, des préoccupations sont apparues quant à la présence de biais dans ces solutions.

Tri de CV

Amazon a mis fin à son modèle qui notait les candidats à l'embauche parce qu'il favorisait les hommes

Il survient quand les données sont limitées et brossent un portrait inexact ou inéquitable de la population
Il découle de divers facteurs :
- Déséquilibres et sous-représentation
- Préjugés historiques
- Tendance cognitives
Il nuit à l'exactitude et à la fiabilité des données, réduisant leur efficacité pour éclairer les décisions

Origines du biais dans les données

Le modèle d'Amazon a été entraîné sur des CV reçus sur 10 ans.
Durant cette période, les candidats masculins ont été embauchés ou favorisés de façon disproportionnée.
Le modèle a donc biaisé en faveur des hommes, reflétant ces pratiques d'embauche historiques.
Corriger le biais exige d'examiner la qualité de l'ensemble de données et les processus humains en cause.

Boîtes Amazon et tri de CV

Vaincre le biais

Chapitre 1 – Comprendre l'impact du biais sur la prise de décision et pourquoi il faut en tenir compte quand vous travaillez avec des données.

Chapitre 2 – Découvrir les principaux biais lors de la collecte et comment appliquer des techniques pour les réduire.

Chapitre 3 – Voir les biais fréquents pendant l'analyse et au partage des résultats : comment les détecter et les atténuer.

Maîtriser les biais de données