Verpflichtungen für Anbieter von Hochrisikosystemen

Grundlagen des KI-Gesetzes der Europäischen Union

Dan Nechita

Lead Technical Negotiator, EU AI Act

Konzept der Zweckbestimmung

KI-Gesetz sorgt für faire Verteilung von Pflichten zwischen Anbieter und Betreiber
Konzept der Zweckbestimmung

Das Gleichgewicht zwischen Anbieter und Betreiber

Konzept der Zweckbestimmung

Beispiel:

KI zur Erkennung von Tieren

Bild mit KI zur Tiererkennung

Konzept der Zweckbestimmung

Beispiel:

KI zur Erkennung von Tieren
Verwendung zur Preisgestaltung von Lebensversicherungen
Derartige Fehlanwendung nicht empfohlen und wahrscheinlich wirkungslos
Unternehmen, das System entwickelt hat, hat keine Pflichten laut KI-Gesetz
- Risikofreies KI-System entwickelt
Pflichten liegen bei Betreiber

Bild: Einsatz von KI für die Preisgestaltung von Lebensversicherungen

Konzept der Zweckbestimmung

Produkte an die Bedürfnisse anpassen

Konformitätsbewertung

Anbieter von Hochrisiko-KI-Systemen müssen eine Konformitätsbewertung vornehmen und dokumentieren, um die Sicherheit und Einhaltung der Vorschriften zu gewährleisten. Diese Bewertung kann selbst durchgeführt werden.

Risikomanagement und Governance

Anbieter brauchen System zum Erkennen und Mindern von Risiken

Maßnahmen zur Daten-Governance müssen sicherstellen, dass Trainingsdaten verzerrungsfrei und zweckmäßig sind; Auswirkungen auf verschiedene Gruppen müssen berücksichtigt werden

Dokumentation

CleanShot 2024-07-31 at 11.34.15.png

Anbieter müssen für Compliance und Rückverfolgbarkeit eine Dokumentation erstellen und Protokollierung ermöglichen
Betreiber informieren über Funktionen, ordnungsgemäße Verwendung, Möglichkeiten und Grenzen, potenzielle Fehlanwendungen
Menschliche Überwachung sicherstellen und Maßnahmen für Genauigkeit, Robustheit und Cybersicherheit implementieren

Weitere Pflichten

Compliance sicherstellen

Lass uns üben!

Grundlagen des KI-Gesetzes der Europäischen Union