L’éthique des données et l’éthique de l’IA

Introduction à l'éthique des données

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

Qu’est-ce que l’IA ?

Illustration de l’IA avec saisie de données et décision du modèle.

  • L’IA combine des algorithmes et des ensembles de données robustes pour résoudre des problèmes
  • L’IA puissante utilise de grands ensembles de données
  • Potentiel énorme, épée à double tranchant, considérations éthiques
Introduction à l'éthique des données

Les données sont le carburant de l’IA

Illustration de l’importance des données pour l’IA avec une analogie culinaire.

  • Les modèles d’IA ont besoin de quantités massives de données, et la plupart des efforts en matière d’IA sont consacrés aux données
  • Des données insuffisantes conduisent à des résultats médiocres de l’IA
  • L’éthique de l’IA est plus vaste que l’éthique des données, importance de connaître les similitudes et les différences
1 Photo : Webinaire d'Andrew Ng, MLOps : From Model-centric to Data-centric AI
Introduction à l'éthique des données

Le bon et l’incroyable

Collage d’un haut-parleur d’assistant vocal, d’une capture d’écran de ChatGPT et d’une capture d'écran de la page d’accueil de Netflix.

  • Assistants vocaux, IA conversationnelle
  • Recommandations de films

Radiographie d’un sein avec deux tumeurs à différents stades de croissance

  • L’IA au service du bien
  • Diagnostic précoce du cancer
  • Agriculture de précision : réduction de l’utilisation d’eau et de pesticides
Introduction à l'éthique des données

Le mauvais et l’horrible

Collage de captures d’écran d’articles de presse sur la discrimination par les algorithmes d’IA

  • Discrimination à l’embauche, accès aux soins de santé et procès équitable devant les tribunaux
  • De nombreuses raisons : ensembles de données biaisés, modèles d’IA complexes et boîte noire, manque d’explications
  • L’éthique de l’IA dépasse celle des données
Introduction à l'éthique des données

Dilemmes éthiques de l’IA

L’éthique de l’IA dépasse celle des données

  • Conséquences des décisions :
    • Accès au crédit/prêts
    • Embauche
  • Discrimination de l’IA
  • L’IA et les robots remplacent les emplois
  • Les robots/drones feront-ils moins de victimes humaines en cas de guerre ?
  • Que signifie être humain ?
  • Peut-on intégrer la moralité dans l’IA ?

Photo d’un panneau routier indiquant des directions opposées sur fond de montagne.

1 Photo : unsplash.com
Introduction à l'éthique des données

Que doit faire l’IA ?

  • Voiture autonome sans freins
  • Continuer tout droit ou tourner ?
  • Continuer pour tuer une femme, un homme et une femme âgée
  • Tourner pour tuer une jeune femme et deux enfants
  • Qui est responsable ?

Illustration d’un dilemme éthique concernant une voiture autonome

1 https://moralmachine.mit.edu/
Introduction à l'éthique des données

Les lignes directrices sur l’éthique de l’IA

De nombreuses organisations élaborent des lignes directrices sur l’éthique de l’IA

  • Facteur humain et supervision
  • Robustesse technique et sécurité
  • Confidentialité et gouvernance des données
  • Transparence
  • Diversité, non-discrimination et équité
  • Bien-être environnemental et sociétal
  • Responsabilité

Image d’Algorithm Watch sur l’inventaire global des lignes directrices en matière d’éthique de l’IA.

1 https://digital-strategy.ec.europa.eu/en/library/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment 2 https://inventory.algorithmwatch.org/
Introduction à l'éthique des données

Le chevauchement des données

  • Confidentialité, sécurité, protection des données
  • Partialité et équité
  • Transparence
  • Responsabilité

Illustration du chevauchement de l’éthique des données et de l’éthique de l’IA

Introduction à l'éthique des données

Passons à la pratique !

Introduction à l'éthique des données

Preparing Video For Download...