Risques et occasions

Comprendre le RGPD

Shalini Kurapati, CIPP/E

Co-founder and CEO, Clearbox AI

Occasions majeures de l'IA et du mégadonnées

Capture d'écran du titre d'un billet du Forum économique mondial sur la prévision de la contribution de l'IA à l'économie mondiale d'ici 2030.

  • Technologie de rupture du 21e siècle
  • Innovation fondée sur les données et la puissance de calcul
  • Avantage concurrentiel
Comprendre le RGPD

IA pour le bien commun

Illustration des objectifs de développement durable de l'ONU pouvant être accélérés par l'adoption de l'IA, intitulée AI for Good Gateway.

  • Pas seulement économique : IA for Good pour les ODD
  • Changements climatiques, santé, accès à l'éducation
  • Conscience des risques et avantages pour des choix conformes au RGPD
1 https://aiforgood.itu.int/
Comprendre le RGPD

Amendes RGPD : IA discriminatoire

L'autorité italienne inflige une amende à une appli de livraison pour discrimination algorithmique Illustration du logo de l'autorité de surveillance italienne.

  • Entreprise : profilage des livreurs, discrimination dans l'attribution des commandes
  • Amende de 2,6 millions € pour manquements au RGPD
  • Minimisation, transparence, qualité des données ; biais et discrimination avec décisions automatisées et profilage
1 https://www.gpdp.it/web/guest/home/docweb/-/docweb-display/docweb/9677377 https://edpb.europa.eu/news/national-news/2021/riders-italian-sa-says-no-algorithms-causing-discrimination-platform-glovo_en
Comprendre le RGPD

Protection des données et au‑delà

Risque de divulgation

  • Divulgation de données personnelles
  • Même avec des données agrégées
  • DPIA : risques résiduels
  • Aucune explication viable

Exemple

  • IA d'imagerie médicale
  • A prédit l'« race » (hautement sensible)
  • Enjeu de vie privée et de biais
1 Gichoya, Judy Wawira, et al. Reconnaissance par l'IA de la « race » des patientes et patients en imagerie médicale : étude de modélisation, The Lancet Digital Health, Volume 4, numéro 6, 2022,
Comprendre le RGPD

L'art de l'équilibre

  • Les systèmes d'IA doivent respecter les principes du RGPD
  • Garanties particulières
  • Catégories particulières de données
  • Limites aux décisions automatisées et au profilage
  • Exceptions :
    • Exécution d'un contrat
    • Intérêt public
    • Consentement explicite
  • RGPD compatible avec l'IA, ne couvre pas tout
  • AI Act à venir
Comprendre le RGPD

Passons à la pratique !

Comprendre le RGPD

Preparing Video For Download...