Prise de décision automatisée et profilage

Comprendre le RGPD

Shalini Kurapati, CIPP/E

Co-founder and CEO, Clearbox AI

IA : licéité, équité et transparence

  • Fondement juridique
  • Équité et discrimination : déduire des données sur les personnes
  • Transparence
  • Dispositions particulières : article 22
Comprendre le RGPD

Article 22

Illustration d'un processus automatisé

  • Obligations d'équité et de lutte contre la discrimination
  • Article 22 : décisions individuelles automatisées, y compris le profilage
  • Droit à l'intervention humaine et à une explication
1 Source de l'image : flaticon.com
Comprendre le RGPD

Profilage

Illustration du profil d'une personne.

  • Analyser et prédire des comportements, traitement à grande échelle, avec IA/Machine Learning
  • Repérer et lier comportements et attributs
  • Créer des profils et prédire selon ces profils
  • Exemples :
    • Réussite d'un traitement
    • Risque de récidive
1 Information Commissioner's Office
Comprendre le RGPD

Enjeux éthiques liés au profilage

Captures d'écrans de sites d'actualités montrant des biais d'algorithmes d'IA selon le genre, la race et la notation de performance.

  • Propager ou renforcer des biais
  • Conception, données, complexité inhérente / « boîte noire »
  • Discrimination fondée sur le genre ou la race
1 Source des images : bbc.com, propublica.com et techcrunch.com
Comprendre le RGPD

Exemple célèbre de profilage

Capture d'écran d'un graphique de journal illustrant le scandale Cambridge Analytica

  • 320 000 personnes ont passé un test de personnalité en ligne pour de « la recherche universitaire »
  • Collecte des données personnelles des amis des usagers, jusqu'à 50 M de profils sans consentement
  • Profilage personnalité/politique, publicités ciblées aux personnes susceptibles de changer d'avis
  • Utilisé dans plusieurs élections aux É.-U., au R.-U. et ailleurs
1 Source de l'image : The Guardian
Comprendre le RGPD

Prise de décision automatisée

Illustration d'une décision automatisée où l'ordinateur tranche le résultat.

  • Décisions par moyens automatisés, sans intervention humaine
  • Peut impliquer ou non du profilage
  • Tout type de données : sondage, localisation, profilage
  • Exemple : tri automatisé de CV
1 Groupe de travail ARTICLE 29 : Lignes directrices sur les décisions individuelles automatisées et le profilage aux fins du Règlement 2016/679
Comprendre le RGPD

Exemple bancaire

Illustration d'un directeur de banque incapable d'expliquer à certaines personnes pourquoi un prêt a été approuvé ou refusé.

  • Décision hypothécaire automatisée
  • L'IA répond souvent par oui/non ; besoin d'explications et d'une intervention humaine
  • Mécanismes pour prévenir les biais et corriger/améliorer les décisions de l'IA
Comprendre le RGPD

Passons à la pratique !

Comprendre le RGPD

Preparing Video For Download...