Einstufung von KI-Systemen mit hohem Risiko

Grundlagen des KI-Gesetzes der Europäischen Union

Dan Nechita

Lead Technical Negotiator, EU AI Act

Hintergrund

  CEmarking.png

Grundlagen des KI-Gesetzes der Europäischen Union

KI-Systeme mit hohem Risiko

 

  • Biometrische KI-Systeme
  • KI in Bildung und Beschäftigung
  • KI in essenziellen Leistungen
  • KI in der Strafverfolgung oder Migration
  • KI in kritischer Infrastruktur

Annex3.png

Grundlagen des KI-Gesetzes der Europäischen Union

Biometrie

Der Einsatz von biometrischen KI-Systemen, wie der biometrischen Fernidentifizierung und der Emotionserkennung, kann die Privatsphäre von Personen beeinträchtigen, weil sie ständig überwacht und sensible persönliche Daten missbraucht werden könnten.

Bausteine sind mit digitalen Quadraten überlagert, die Menschen in ihren Wohnungen zeigen, wie sie ihrem Alltag nachgehen. Einige der Quadrate haben Cursor.

1 Bild: Emily Rand & LOTI / Better Images of AI / AI City / CC-BY 4.0
Grundlagen des KI-Gesetzes der Europäischen Union

Bildung und Beschäftigung

Der Einsatz von KI in Bildung und Beschäftigung kann zu Diskriminierung führen und die Zukunftschancen von Menschen beeinflussen.

despaired-2261021_1280.jpg

Grundlagen des KI-Gesetzes der Europäischen Union

Essenzielle Leistungen

Der Einsatz von KI bei der Entscheidung über essenzielle Leistungen kann den Zugang von Menschen zu lebenswichtigen Dienstleistungen stark beeinträchtigen.

aiapps2.png

1 Yasmin Dwiputri & Data Hazards Project / Better Images of AI / AI across industries. / CC-BY 4.0
Grundlagen des KI-Gesetzes der Europäischen Union

Strafverfolgung

Der Einsatz von KI bei Strafverfolgung, Migration, Asylverfahren oder Grenzkontrollen kann die Rechte und Freiheiten von Menschen stark beeinflussen.

Untitled design5.png

Grundlagen des KI-Gesetzes der Europäischen Union

Kritische Infrastruktur

KI, die in kritischer Infrastruktur eingesetzt wird, kann Gesundheit, Sicherheit und demokratische Prozesse gefährden.

Untitled design4.png

Grundlagen des KI-Gesetzes der Europäischen Union

Eingebettete KI

  Jede KI-Regel

 

In bestehende Produkte eingebaute KI hat die gleichen Eigenschaften.

Grundlagen des KI-Gesetzes der Europäischen Union

Eingebettete KI

Automatisch abgedeckt: medizinische Geräte, Maschinen, Spielzeug, Funkgeräte, Sportboote, Seilbahnen

Zu ändern: zivile Luftfahrt, alle Arten von Autos, Schiffsausrüstung, Bahnsysteme

Anton_Grabolle_Selfdriving_Car_1920x1080.jpg

Grundlagen des KI-Gesetzes der Europäischen Union

Lass uns üben!

Grundlagen des KI-Gesetzes der Europäischen Union

Preparing Video For Download...