Que faire des biais liés aux données?

Introduction à l'éthique des données

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

Qu'est-ce qu'un biais?

Illustration d'un jugement biaisé.

  • Première notion en éthique des données
  • Préjugé pour ou contre une personne, un groupe ou une idée — injuste
  • Éthique des données — biais de données
  • Sous-, sur- ou mauvaise représentation
  • Effets nuisibles si des données biaisées guident les décisions
1 Icône créée par noomtah sur www.flaticon.com
Introduction à l'éthique des données

N'importe quand, n'importe où

  • À toutes les étapes des cycles de vie des données
  • Collecte des données
  • Nettoyage, préparation, développement
  • Étiquetage des données

Illustration de biais aux différentes étapes du cycle de vie des données alimentant des algorithmes biaisés

Introduction à l'éthique des données

Biais propres aux données

  • Biais de procédés techniques ou statistiques

    • Biais d'échantillonnage — représentation
    • Biais de mesure
    • Biais d'auto-déclaration
    • Biais d'étiquetage

  • Biais humains et systémiques

    • Genre
    • Ethnicité/minorités
    • Culture

Illustration d'un objet déformé comparé à son image réelle.

1 Icône créée par Flowicon sur www.flaticon.com
Introduction à l'éthique des données

La représentation est cruciale

Capture d'écran de la conférence TED de Joy, portant un masque blanc

  • Manque de données représentatives
  • Reconnaissance faciale — meilleurs résultats avec un masque blanc
  • Des distributeurs de savon aux résultats en santé
  • À voir : Coded Bias
1 https://www.ted.com/talks/joy_buolamwini_how_i_m_fighting_bias_in_algorithms
Introduction à l'éthique des données

Un miroir de nos stéréotypes

Illustration des différents symptômes d'une crise cardiaque : homme (serrement thoracique) et femme (douleur au dos).

  • Études et données médicales, historiquement centrées sur les hommes blancs
  • P. ex. symptômes d'infarctus différents chez les hommes et les femmes
  • Que se passe-t-il avec une appli de diagnostic fondée sur ces données?
1 https://womeningh.org/
Introduction à l'éthique des données

Impact sérieux

Capture d'écran d'un diagnostic d'une appli de santé pour des symptômes d'infarctus chez hommes et femmes.

  • Symptômes d'infarctus — urgence pour un homme, crise d'angoisse pour une femme
Introduction à l'éthique des données

Beaucoup trop, et ça continue!

Illustration des divers biais cognitifs.

1 CC BY, John Manoogian III (JM3)
Introduction à l'éthique des données

La pointe de l'iceberg

Illustration de la pointe d'un iceberg : biais statistiques en haut, biais humains et systémiques en bas

  • Biais statistiques : pointe de l'iceberg
  • Biais humains et systémiques : attitudes et changements sociétaux
  • Tester, prévenir et atténuer les biais; rester ouvert à la rétroaction
1 Schwartz, R., Vassilev, A., Greene, K., Perine, L., Burt, A. et Hall, P. (2022), Towards a Standard for Identifying and Managing Bias in Artificial Intelligence, National Institute of Standards and Technology
Introduction à l'éthique des données

Passons à la pratique !

Introduction à l'éthique des données

Preparing Video For Download...