Au-delà du « ne pas nuire »

Introduction à l'éthique des données

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

Légal ou éthique ?

  • L'éthique et les lois sont étroitement liées
  • L'éthique va au-delà des lois :
    • Notion évolutive du bien et du mal
    • Société, religion, progrès, civilisation
  • L'éthique oriente, la loi s'applique
  • Légal ≠ éthique : l'éthique dépasse la loi

Illustration d'une main sur un livre.

1 Icône créée par Freepik sur www.flaticon.com
Introduction à l'éthique des données

Leçons du passé

Cellules HeLa

Portrait d'Henrietta Lacks

  • Cellules humaines « immortelles », cruciales pour la recherche sur le cancer
  • Prélevées d'Henrietta Lacks sans consentement, lors d'une biopsie
  • Vie privée, dignité, respect : enjeux éthiques

Étude de la syphilis de Tuskegee

Affiche de recrutement pour l'étude de la syphilis de Tuskegee

  • Effets de la syphilis non traitée, 1932-1972
  • Participants afro-américains, mal informés, sans accès au traitement
  • Plus de 100 décès malgré des options de traitement
Introduction à l'éthique des données

Principes éthiques directeurs

Illustration d'un livre sur l'éthique

  • Ne pas nuire : minimiser les risques pour les personnes
  • Bienfaisance : maximiser les avantages pour autrui et la société
  • Respect, autonomie, agentivité : consentement, vie privée, information, contrôle
  • Justice : légalité, équité, non-discrimination
  • IEEE, ACM traitent de l'éthique des données : usage responsable, prévention des abus
1 Icône créée par Freepik sur www.flaticon.com 2 https://www.hhs.gov/ohrp/regulations-and-policy/belmont-report/index.html 3 http://ethics.acm.org/code-of-ethics/ 4 https://www.ieee.org/about/corporate/governance/p7-8.html
Introduction à l'éthique des données

Éthique des données : vieux problèmes, nouvel emballage

Étude de contagion émotionnelle de Facebook

Capture d'écran d'un article de The Atlantic sur l'expérience sociale manipulatrice de Facebook.

  • Des data scientists ont biaisé le fil de nouvelles de 700 000 utilisateurs pour influencer leur comportement
  • Utilisateurs non informés de la nature et de l'objectif de la collecte

Project Nightingale de Google Capture d'écran de l'article du WSJ sur le Project Nightingale de Google

  • Gestion par Google de données sensibles
  • Données médicales à grande échelle sans consentement des patients ni information des médecins
1 https://www.theatlantic.com/technology/archive/2014/06/everything-we-know-about-facebooks-secret-mood-manipulation-experiment/373648/ https://www.ncbi.nlm.nih.gov/pmc/articles/PMC7059004/
Introduction à l'éthique des données

L'éthique des données inscrite dans les lois

Illustration d'un juge sans visage devant une puce électronique pour illustrer la régulation des données et de la technologie.

  • Des lois comme le RGPD et le CCPA intègrent des principes d'éthique des données
  • Vie privée, sécurité des données, transparence, consentement éclairé, non-discrimination, responsabilité
  • Pas que des lignes directrices : c'est appliqué
    • Amendes RGPD
    • 20 M€ ou 4 % du chiffre d'affaires mondial
1 Icône créée par Leremy sur www.flaticon.com
Introduction à l'éthique des données

L'argument d'affaires pour l'éthique des données

Conformité et réputation

Captures d'articles montrant la FTC américaine et les autorités italiennes sanctionnant des pratiques de données laxistes.

  • Les régulateurs interviennent contre les pratiques laxistes : FTC, DPA italienne
  • Des normes élevées d'éthique des données favorisent la conformité
  • Attractif pour la clientèle et les employés

Innovation responsable Montage des différentes composantes du projet LinkedIn Economic Graph.

  • LinkedIn Economic Graph en collaboration avec des gouvernements et des décideurs
  • Bénéfices pour les clients, la société et l'entreprise
1 https://economicgraph.linkedin.com/
Introduction à l'éthique des données

Passons à la pratique !

Introduction à l'éthique des données

Preparing Video For Download...