Obligations des déployeurs à haut risque

Comprendre l’AI Act de l’UE

Dan Nechita

Lead Technical Negotiator, EU AI Act

Obligations des déployeurs

iStock-1078932568-modified-99672ec9-fa88-4c7b-b9ac-416413b34060.jpg

Les déployeurs et les fournisseurs partagent des obligations pour éviter que les systèmes d’IA ne menacent la santé, la sécurité et les droits fondamentaux.

Quelles sont ces obligations?

Les déployeurs doivent suivre les instructions d’utilisation de l’IA.
Tenir des journaux automatisés et surveiller les défaillances.
Signaler les incidents graves au fournisseur et aux autorités.

Avis obligatoire

Informer les travailleurs de l’usage de l’IA pour l’affectation des tâches ou le suivi de la performance.
Informer les personnes concernées lors d’un usage d’IA à haut risque pour des décisions.
Exemples : primes d’assurance vie, admissions scolaires.

Autorités publiques

Capture d’écran 2024-07-31 à 08.22.39.png

Les autorités publiques et les services essentiels doivent réaliser une analyse d’impact sur les droits fondamentaux (FRIA).
La FRIA vérifie le respect des droits, comme la DPIA du RGPD.
L’usage d’IA à haut risque par les autorités publiques doit être inscrit dans la base de données de l’UE.

Les déployeurs peuvent devenir fournisseurs!

Les rôles de fournisseurs et de déployeurs peuvent se chevaucher en cas de modifications substantielles.
Modifier l’objectif prévu d’une IA fait du déployeur un fournisseur, avec ses obligations.
Exemple : utiliser GPT-4 pour l’embauche fait de l’entreprise un fournisseur d’IA à haut risque.

Capture d’écran 2024-07-31 à 11.09.50.png

Rétrospective

Pyramide des risques à quatre niveaux.png

Merci!

Comprendre l’AI Act de l’UE