Verplichtingen voor aanbieders met hoog risico

De EU AI Act begrijpen

Dan Nechita

Lead Technical Negotiator, EU AI Act

Concept van beoogd doel

AI Act balanceert plichten van bouwer en gebruiker
Steunt op het concept "beoogd doel"

Afbeelding van balans tussen bouwer en gebruiker

Concept van beoogd doel

Voorbeeld:

Dierherkennings-AI

Afbeelding van AI voor dierherkenning

Concept van beoogd doel

Voorbeeld:

Dierherkennings-AI
Gebruikt voor levensverzekeringsprijzen
Misbruik: niet aanbevolen en waarschijnlijk ineffectief
Het bedrijf dat het systeem bouwde heeft geen verplichtingen onder de AI Act
- Bouwde een AI-systeem zonder risico
Verplichtingen liggen bij de uitrolpartij

Afbeelding van AI voor prijsbepaling van levensverzekeringen

Concept van beoogd doel

Producten afstemmen op behoeften

Conformiteitsbeoordeling

Aanbieders van hoogrisico-AI-systemen moeten een "conformiteitsbeoordeling" uitvoeren en documenteren om veiligheid en naleving te waarborgen; dit kan via zelfbeoordeling.

Risicobeheer en governance

Aanbieders hebben een risicobeheersysteem nodig om risico's te identificeren en te mitigeren

Datagovernance moet zorgen voor onbevooroordeelde, doelgeschikte trainingsdata, met oog voor effecten op verschillende groepen

Documentatie

CleanShot 2024-07-31 at 11.34.15.png

Aanbieders moeten gedetailleerde documentatie opstellen en registratie mogelijk maken voor naleving en traceerbaarheid
Geef uitrolpartijen info over functies, juist gebruik, beperkingen en mogelijk misbruik
Zorg voor menselijk toezicht en maatregelen voor nauwkeurigheid, robuustheid en cybersecurity

Andere verplichtingen

Naleving waarborgen

Laten we oefenen!

De EU AI Act begrijpen