Éthique des données et éthique de l'IA

Introduction à l'éthique des données

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

Qu'est-ce que l'IA ?

Illustration d'une IA avec données en entrée et décision du modèle.

  • L'IA combine algorithmes et ensembles de données robustes pour résoudre des problèmes
  • Les IA performantes s'appuient sur de grands ensembles de données
  • Potentiel immense, arme à double tranchant : enjeux éthiques
Introduction à l'éthique des données

Les données, carburant de l'IA

Illustration de l'importance des données pour l'IA avec une analogie culinaire.

  • Les modèles d'IA exigent énormément de données ; l'essentiel du travail porte sur les données
  • Des données de piètre qualité mènent à de mauvais résultats
  • L'éthique de l'IA dépasse celle des données ; bien connaître ressemblances et différences
1 Source de la photo : webinaire d'Andrew Ng, MLOps : de l'IA centrée sur le modèle à l'IA centrée sur les données
Introduction à l'éthique des données

Le bon et l'extraordinaire

Un montage d'un haut-parleur assistant vocal, une capture de chatgpt et l'accueil de Netflix.

  • Assistants vocaux, IA conversationnelle
  • Recommandations de films

Image d'une mammographie avec deux tumeurs à différents stades de croissance

  • IA pour le bien commun
  • Diagnostic précoce du cancer
  • Agriculture de précision : moins d'eau et de pesticides
Introduction à l'éthique des données

Le mauvais et le laid

Montage de captures d'articles sur la discrimination des algorithmes d'IA

  • Discrimination à l'embauche, à l'accès aux soins et aux procès équitables
  • Multiples causes : ensembles de données biaisés, modèles opaques et complexes, manque d'explications
  • L'éthique de l'IA va au-delà de l'éthique des données
Introduction à l'éthique des données

Dilemmes éthiques de l'IA

L'éthique de l'IA va au-delà de l'éthique des données

  • Conséquences des décisions de l'IA :
    • Accès au crédit/prêts
    • Embauche
  • Discrimination par l'IA
  • IA/robots remplaçant des emplois
  • Les robots/drones sauveront-ils des vies humaines en guerre ?
  • Qu'est-ce qu'être humain ?
  • Peut-on coder la moralité dans l'IA ?

Photo d'un panneau routier pointant en directions opposées sur fond de montagne.

1 Source de la photo : unsplash.com
Introduction à l'éthique des données

Que devrait faire une IA ?

  • Voiture autonome avec panne de freins soudaine
  • Continuer tout droit ou dévier
  • Continuer tuera une femme, un homme et une femme âgée
  • Dévier tuera une jeune femme et deux enfants
  • Qui est responsable ?

Illustration d'un dilemme éthique pour une voiture autonome

1 https://moralmachine.mit.edu/
Introduction à l'éthique des données

Lignes directrices en bref

De nombreuses organisations élaborent des lignes directrices en éthique de l'IA

  • Autonomie humaine et supervision
  • Robustesse technique et sécurité
  • Vie privée et gouvernance des données
  • Transparence
  • Diversité, non-discrimination et équité
  • Bien-être environnemental et sociétal
  • Redevabilité

Image de l'inventaire des lignes directrices en éthique de l'IA d'AlgorithmWatch.

1 https://digital-strategy.ec.europa.eu/en/library/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment 2 https://inventory.algorithmwatch.org/
Introduction à l'éthique des données

Le chevauchement des données

  • Vie privée, sécurité, protection des données
  • Biais et équité
  • Transparence
  • Redevabilité

Illustration du chevauchement de l'éthique des données et de l'éthique de l'IA

Introduction à l'éthique des données

Passons à la pratique !

Introduction à l'éthique des données

Preparing Video For Download...