Obligations des déployeurs à haut risque

Comprendre la loi de l’UE sur l’IA

Dan Nechita

Lead Technical Negotiator, EU AI Act

Obligations des déployeurs

iStock-1078932568-modified-99672ec9-fa88-4c7b-b9ac-416413b34060.jpg

Les déployeurs et les fournisseurs partagent des obligations pour éviter que les systèmes d’IA ne menacent la santé, la sécurité et les droits fondamentaux.

Quelles obligations ?

Les déployeurs doivent suivre les instructions d’usage de l’IA.
Tenir des journaux automatiques et surveiller les dysfonctionnements.
Signaler les incidents graves au fournisseur et aux autorités.

Notification obligatoire

Informer les travailleurs de l’usage de l’IA pour l’affectation des tâches ou le suivi des performances.
Informer les personnes concernées lors de décisions prises avec une IA à haut risque.
Exemples : primes d’assurance-vie, admissions dans un établissement.

Autorités publiques

Capture d’écran 2024-07-31 à 08.22.39.png

Les autorités publiques et les déployeurs de services essentiels doivent réaliser une évaluation d’impact sur les droits fondamentaux (FRIA).
La FRIA vérifie le respect des droits, similaire à la DPIA du RGPD.
L’usage d’IA à haut risque par les autorités publiques doit être enregistré dans la base de données de l’UE.

Les déployeurs peuvent devenir fournisseurs !

Les rôles de fournisseurs et de déployeurs se chevauchent en cas de modifications substantielles.
Modifier la finalité prévue fait du déployeur un fournisseur soumis aux obligations des fournisseurs.
Exemple : utiliser GPT-4 pour le recrutement fait de l’entreprise un fournisseur d’IA à haut risque.

Capture d’écran 2024-07-31 à 11.09.50.png

Retour en arrière

Pyramide des risques à quatre niveaux.png

Merci !

Comprendre la loi de l’UE sur l’IA