Obligations des fournisseurs à haut risque

Comprendre l’AI Act de l’UE

Dan Nechita

Lead Technical Negotiator, EU AI Act

Notion de finalité prévue

L’AI Act équilibre les obligations des concepteurs et des utilisateurs
S’appuie sur la notion de « finalité prévue »

Image illustrant l’équilibre entre le concepteur et l’utilisateur

Notion de finalité prévue

Exemple :

IA d’identification d’animaux

Image d’utilisation de l’IA pour identifier des animaux

Notion de finalité prévue

Exemple :

IA d’identification d’animaux
Utilisée pour tarifer l’assurance vie
Usage détourné non recommandé et probablement inefficace
L’entreprise qui a construit le système n’a pas d’obligations au titre de l’AI Act
- A construit un système sans risque
Les obligations incombent au déployeur

Image d’utilisation de l’IA pour la tarification de l’assurance vie

Notion de finalité prévue

Adapter les produits aux besoins

Évaluation de conformité

Les fournisseurs de systèmes d’IA à haut risque doivent réaliser et documenter une « évaluation de conformité » pour assurer la sécurité et la conformité; elle peut être autoévaluée.

Gestion des risques et gouvernance

Les fournisseurs doivent avoir un système de gestion des risques pour identifier et atténuer les risques

La gouvernance des données doit assurer des données d’entraînement impartiales et adaptées à la finalité, en tenant compte des effets sur divers groupes

Documentation

CleanShot 2024-07-31 at 11.34.15.png

Les fournisseurs doivent créer une documentation détaillée et permettre la tenue de registres pour la conformité et la traçabilité
Fournir aux déployeurs des infos sur les fonctionnalités, le bon usage, les limites et les abus possibles
Assurer la supervision humaine et mettre en place des mesures pour l’exactitude, la robustesse et la cybersécurité

Autres obligations

Assurer la conformité

Passons à la pratique !

Comprendre l’AI Act de l’UE