Skyldigheter för högriskleverantörer

Förstå EU:s AI-förordning

Dan Nechita

Lead Technical Negotiator, EU AI Act

Begreppet avsett ändamål

AI-förordningen balanserar skyldigheter för byggare och användare
Bygger på begreppet "avsett ändamål"

Bild som illustrerar balansen mellan byggare och användare

Begreppet avsett ändamål

Exempel:

AI för djuridentifiering

Bild av AI för djuridentifiering

Begreppet avsett ändamål

Exempel:

AI för djuridentifiering
Används för prissättning av livförsäkring
Missbruk rekommenderas inte och är sannolikt ineffektivt
Företaget som byggt systemet har inga skyldigheter enligt AI-förordningen
- Byggde ett AI-system utan risk
Skyldigheterna vilar på driftsättaren

Bild av AI för prissättning av livförsäkring

Begreppet avsett ändamål

Anpassning av produkter till behov

Överensstämmelsebedömning

Leverantörer av högrisk-AI-system måste genomföra och dokumentera en "överensstämmelsebedömning" för att säkerställa säkerhet och efterlevnad, vilket kan göras av leverantören själv.

Riskhantering och styrning

Leverantörer behöver ett riskhanteringssystem för att identifiera och minska risker

Datastyrningsåtgärder måste säkerställa opartiska och ändamålsenliga träningsdata, med hänsyn till påverkan på olika grupper

Dokumentation

CleanShot 2024-07-31 at 11.34.15.png

Leverantörer måste skapa detaljerad dokumentation och möjliggöra loggning för efterlevnad och spårbarhet
Förse driftsättare med information om funktioner, korrekt användning, begränsningar och potentiellt missbruk
Säkerställa mänsklig tillsyn och implementera åtgärder för noggrannhet, robusthet och cybersäkerhet

Övriga skyldigheter

Säkerställa efterlevnad

Låt oss öva!

Förstå EU:s AI-förordning