Das Daten-Dilemma verstehen

Bias in Daten bewältigen

Konstantinos Kattidis

Data Analytics Lead

Daten treiben Entscheidungen

Datengetriebene Entscheidungen haben Branchen weltweit verändert
Der Einsatz von Daten und KI reicht heute in kritische Bereiche:
- Soziale Gerechtigkeit
- Bewerberauswahl
- Interaktive Interfaces wie Sprachassistenten

Anwendungsfälle datengetriebener Entscheidungen

Neben diesen Fortschritten wachsen die Sorgen über Bias in solchen Lösungen.

CV-Screening

Amazon stellte sein Modell zur Bewertung geeigneter Bewerber*innen ein, da es Männer bevorzugte

Entsteht, wenn Daten begrenzt sind und ein unzutreffendes oder unfaires Bild der Population zeichnen
Ursachen u. a.:
- Ungleichgewichte und Unterrepräsentation
- Historische Vorurteile
- Kognitive Verzerrungen
Untergräbt Genauigkeit und Verlässlichkeit von Daten und mindert ihre Wirkung für Entscheidungen

Ursprünge von Datenbias

Amazons Modell wurde mit Lebensläufen aus 10 Jahren trainiert.
In dieser Zeit wurden Männer vom Prozess überproportional eingestellt bzw. bevorzugt.
Das Modell war durch historische Muster auf Männer verzerrt.
Datenbias zu adressieren heißt: Datensatzqualität und menschliche Prozesse prüfen.

Amazon-Pakete und CV-Screening

Vorurteile überwinden

Kapitel 1 – Verstehe, wie Datenbias Entscheidungen beeinflusst und warum du ihn bei der Datenarbeit berücksichtigen musst.

Kapitel 2 – Lerne die verschiedenen Bias-Arten in der Datenerhebung kennen und wie du sie minimierst.

Kapitel 3 – Erkenne typische Bias-Arten in der Datenanalyse und beim Teilen von Ergebnissen. Wir zeigen, wie man Bias erkennt und mindert.

Bias in Daten bewältigen