Verplichtingen voor hoogrisico-aanbieders

De EU AI Act begrijpen

Dan Nechita

Lead Technical Negotiator, EU AI Act

Beoogd doel: het concept

AI Act balanceert plichten van bouwer en gebruiker
Steunt op het concept van het "beoogde doel"

Afbeelding van balans tussen bouwer en gebruiker

Beoogd doel: het concept

Voorbeeld:

Dieridentificatie-AI

Afbeelding van AI voor dieridentificatie

Beoogd doel: het concept

Voorbeeld:

Dieridentificatie-AI
Gebruikt voor premiebepaling levensverzekering
Misbruik: niet aanbevolen en waarschijnlijk ineffectief
Bedrijf dat het systeem bouwde heeft geen verplichtingen onder de AI Act
- Bouwde een risicoloos AI-systeem
Verplichtingen liggen bij de deployer

Afbeelding van AI voor premiebepaling levensverzekering

Beoogd doel: het concept

Producten afstemmen op behoeften

Conformiteitsbeoordeling

Aanbieders van hoogrisico-AI moeten een "conformiteitsbeoordeling" uitvoeren en documenteren om veiligheid en naleving te borgen; zelfbeoordeling is toegestaan.

Risicobeheer en governance

Aanbieders hebben een risicobeheersysteem nodig om risico’s te identificeren en te beperken

Datagovernance moet zorgen voor onbevooroordeelde, doelgeschikte trainingsdata, met aandacht voor impact op groepen

Documentatie

CleanShot 2024-07-31 at 11.34.15.png

Stel gedetailleerde documentatie op en maak logging mogelijk voor naleving en traceerbaarheid
Voorzie deployers van info over features, juist gebruik, beperkingen en mogelijk misbruik
Borg menselijke controle en neem maatregelen voor nauwkeurigheid, robuustheid en cybersecurity

Overige verplichtingen

Naleving borgen

Laten we oefenen!

De EU AI Act begrijpen