Prise de décision automatisée et profilage

Comprendre le RGPD

Shalini Kurapati, CIPP/E

Co-founder and CEO, Clearbox AI

IA : Licéité, équité et transparence

  • Base légale
  • Équité et non-discrimination – déduire des données sur les personnes
  • Transparence
  • Dispositions spécifiques – article 22
Comprendre le RGPD

Article 22

Illustration d'un processus automatisé

  • Obligations d'équité et de non-discrimination
  • Article 22 – décision individuelle automatisée, y compris profilage
  • Droit à l'intervention humaine et à l'explication
1 Source de l'image : flaticon.com
Comprendre le RGPD

Profilage

Illustration du profil d'une personne.

  • Analyser et prédire des comportements, traitements à grande échelle, via IA/machine learning
  • Relier comportements et attributs, identifier des liens
  • Créer des profils et prédire les comportements à partir de ceux-ci
  • Exemples :
    • Réussite d'un traitement
    • Risque de récidive
1 Information Commissioner's Office
Comprendre le RGPD

Enjeux éthiques du profilage

Captures d'écrans de sites d'actualités montrant des biais d'algorithmes d'IA liés au genre, à la race et au scoring de performance.

  • Propager ou renforcer des biais
  • Conception, données, complexité inhérente/boîte noire
  • Discrimination de genre et raciale
1 Source des images : bbc.com, propublica.com et techcrunch.com
Comprendre le RGPD

L'exemple célèbre de profilage

Capture d'un graphique de presse illustrant le scandale Cambridge Analytica

  • 320 000 utilisateurs ont passé un test de personnalité en ligne pour une « recherche académique »
  • Données personnelles des amis collectées, jusqu'à 50 M de profils sans consentement
  • Profilage personnalité/politique, publicités ciblées aux personnes susceptibles de changer d'avis
  • Utilisé dans de nombreuses élections aux États‑Unis, au Royaume‑Uni et ailleurs
1 Source de l'image : The Guardian
Comprendre le RGPD

Prise de décision automatisée

Illustration d'une décision automatisée où l'ordinateur décide de l'issue.

  • Décisions automatisées sans intervention humaine
  • Peut impliquer ou non un profilage
  • Tout type de données : sondage, localisation, profilage
  • Exemple : tri automatisé de CV
1 Groupe de travail ARTICLE 29 – Lignes directrices sur la prise de décision individuelle automatisée et le profilage aux fins du Règlement 2016/679
Comprendre le RGPD

Exemple bancaire

Illustration d'un·e conseiller·ère bancaire incapable d'expliquer à certaines personnes pourquoi un prêt a été accepté ou refusé.

  • Décision hypothécaire automatisée
  • L'IA répond souvent par oui/non : besoin d'explication et d'intervention humaine
  • Mécanismes pour prévenir les biais, corriger et améliorer les décisions de l'IA
Comprendre le RGPD

Passons à la pratique !

Comprendre le RGPD

Preparing Video For Download...