Automatisierte Entscheidungsfindung und Profiling

GDPR verstehen

Shalini Kurapati, CIPP/E

Co-founder and CEO, Clearbox AI

KI: Rechtmäßigkeit, Fairness und Transparenz

Illustration eines automatisierten Prozesses

¹ Bildquelle: flaticon.com

Verhalten analysieren und vorhersagen, großskalige Verarbeitung mit KI/Maschinellem Lernen
Verhalten und Merkmale identifizieren und verknüpfen
Profile erstellen und Verhalten daraus vorhersagen
Beispiele:
- Behandlungserfolg
- Rückfallrisiko

¹ Information Commissioner's Office

Screenshots von Nachrichtenwebsites zu KI-Bias nach Geschlecht, Ethnie und Leistungsscores.

¹ Bildquelle: bbc.com, propublica.com und techcrunch.com

320.000 Nutzer machten einen Online-Persönlichkeitstest für „akademische Forschung"
Erhob auch die Daten der Freunde, bis zu 50 Mio. Datensätze ohne Einwilligung
Persönlichkeits-/politisches Profiling, gezielte Werbung an Wankelmütige
In vielen Wahlen in den USA, UK und weltweit eingesetzt

¹ Bildquelle: The Guardian

Illustration einer automatisierten Entscheidung, bei der der Computer das Ergebnis festlegt.

¹ ARTICLE 29 WORKING PARTY Leitlinien zu automatisierten Einzelentscheidungen und Profiling für Zwecke der Verordnung 2016/679

Illustration eines Bankmanagers, der einigen Personen nicht erklären kann, warum ein Kredit genehmigt oder abgelehnt wurde.

Automatisierte Hypothekenentscheidung
KI liefert meist Ja/Nein-Antworten – Bedarf an Erklärungen und menschlichem Eingreifen
Mechanismen gegen Bias sowie zum Korrigieren und Verbessern von KI-Entscheidungen

GDPR verstehen