Obligations des fournisseurs à haut risque

Comprendre la loi de l’UE sur l’IA

Dan Nechita

Lead Technical Negotiator, EU AI Act

Notion de finalité prévue

L’AI Act équilibre les obligations des concepteurs et des utilisateurs
S’appuie sur la notion de « finalité prévue »

Image illustrant l’équilibre entre concepteur et utilisateur

Notion de finalité prévue

Exemple :

IA d’identification d’animaux

Image d’utilisation de l’IA pour l’identification d’animaux

Notion de finalité prévue

Exemple :

IA d’identification d’animaux
Utilisée pour tarifer une assurance-vie
Usage détourné non recommandé et probablement inefficace
L’entreprise qui a construit le système n’a pas d’obligations au titre de l’AI Act
- A construit un système sans risque
Les obligations incombent au déployeur

Image d’utilisation de l’IA pour la tarification d’une assurance-vie

Notion de finalité prévue

Adapter les produits aux besoins

Évaluation de conformité

Les fournisseurs de systèmes d’IA à haut risque doivent réaliser et documenter une « évaluation de conformité » pour garantir sécurité et conformité, pouvant être autoévaluée.

Gestion des risques et gouvernance

Les fournisseurs ont besoin d’un système de gestion des risques pour identifier et atténuer les risques

La gouvernance des données doit garantir des données d’entraînement impartiales et adaptées, en tenant compte de l’impact sur divers groupes

Documentation

CleanShot 2024-07-31 at 11.34.15.png

Les fournisseurs doivent créer une documentation détaillée et permettre la tenue de registres pour la conformité et la traçabilité
Fournir aux déployeurs des informations sur les fonctionnalités, le bon usage, les limites et les usages abusifs potentiels
Assurer la supervision humaine et mettre en place des mesures d’exactitude, de robustesse et de cybersécurité

Autres obligations

Assurer la conformité

Passons à la pratique !

Comprendre la loi de l’UE sur l’IA