Risiken und Chancen

GDPR verstehen

Shalini Kurapati, CIPP/E

Co-founder and CEO, Clearbox AI

Große Chancen durch KI und Big Data

Screenshot des Titels eines Blogs des Weltwirtschaftsforums über die Prognose zum Beitrag von KI zur Weltwirtschaft bis 2030.

Disruptive Technologie des 21. Jahrhunderts
Innovation dank Datenverfügbarkeit und Rechenressourcen
Wettbewerbsvorteil

AI for Good

Illustration der UN-Ziele für nachhaltige Entwicklung, die durch den Einsatz von KI beschleunigt werden können, mit dem Titel AI for Good Gateway.

Nicht nur wirtschaftlich: AI for Good für die SDGs
Klimawandel, Gesundheitswesen, Zugang zu Bildung
Risiken und Nutzen kennen für DSGVO-konforme Entscheidungen

¹ https://aiforgood.itu.int/

DSGVO-Bußgelder: diskriminierende KI

Italienische Aufsicht verhängt Bußgeld gegen Liefer-App wegen algorithmischer Diskriminierung Illustration des Logos der italienischen Aufsichtsbehörde.

Lieferdienst: Profiling von Ridern, Diskriminierung bei der Auftragsvergabe
2,6 Millionen Euro Bußgeld wegen DSGVO-Mängeln
Datenminimierung, Transparenz, Datenqualität; Bias und Diskriminierung bei automatisierten Entscheidungen und Profiling

¹ https://www.gpdp.it/web/guest/home/docweb/-/docweb-display/docweb/9677377 https://edpb.europa.eu/news/national-news/2021/riders-italian-sa-says-no-algorithms-causing-discrimination-platform-glovo_en

Datenschutz und mehr

Offenlegungsrisiko

Offenlegung personenbezogener Daten
Auch bei aggregierten Daten
DSFA – Restrisiken
Keine tragfähige Erklärung

Beispiel

KI in der medizinischen Bildgebung
Sagte die (hoch sensible) „Rasse" voraus
Datenschutz- und Bias-Problem

¹ Gichoya, Judy Wawira, et al. KI-Erkennung der „Rasse" von Patient:innen in der medizinischen Bildgebung: eine Modellierungsstudie, The Lancet Digital Health, Band 4, Ausgabe 6, 2022,

Der Balanceakt

KI-Systeme sollten den DSGVO-Grundsätzen folgen
Besondere Schutzmaßnahmen
Besondere Kategorien personenbezogener Daten
Einschränkungen für automatisierte Entscheidungen und Profiling

Ausnahmen:
- Vertragserfüllung
- Öffentliches Interesse
- Ausdrückliche Einwilligung
DSGVO ist mit KI vereinbar, deckt aber nicht alles ab
Kommender AI Act

Lass uns üben!

GDPR verstehen