Verpflichtungen für Betreiber von Hochrisikosystemen

Grundlagen des KI-Gesetzes der Europäischen Union

Dan Nechita

Lead Technical Negotiator, EU AI Act

Verpflichtungen für Betreiber

iStock-1078932568-modified-99672ec9-fa88-4c7b-b9ac-416413b34060.jpg

Sowohl Anbieter als auch Betreiber müssen dafür sorgen, dass KI-Systeme keine Gefahr für Gesundheit, Sicherheit und Grundrechte darstellen.

Betreiber müssen Mitarbeitende darüber informieren, dass KI z. B. zur Aufgabenverteilung oder Leistungsüberwachung eingesetzt wird.
Betreiber, die Hochrisiko-KI für Entscheidungen einsetzen, müssen die betroffenen Personen darüber informieren.
Beispiele: Lebensversicherungsprämien, Zulassungen zu Bildungseinrichtungen

CleanShot 2024-07-31 at 08.22.39.png

Betreiber, die Behörden sind und essenzielle Leistungen anbieten, müssen eine Grundrechte-Folgenabschätzung vornehmen (FRIA).
Die FRIA sorgt dafür, dass KI keine Rechte verletzt, ähnlich wie die Datenschutz-Folgenabschätzung der DSGVO.
Der Einsatz von Hochrisiko-KI durch Behörden muss in der EU-Datenbank erfasst werden.

Die Rollen von Betreibern und Anbietern sind nicht immer klar abgegrenzt.
Wird die Zweckbestimmung der KI geändert, wird der Betreiber zum Anbieter (mit allen Pflichten).
Beispiel: Wer GPT-4 für Personalentscheidungen nutzt, wird zu einem Anbieter von Hochrisiko-KI.

CleanShot 2024-07-31 at 11.09.50.png

Risikopyramide mit vier Stufen.png

Grundlagen des KI-Gesetzes der Europäischen Union