Bias in Algorithmen

Bias in Daten bewältigen

Konstantinos Kattidis

Data Analytics Lead

KI und Daten-Bias

KI hat viele Anwendungsfälle:

Personalisierte Empfehlungen
Routen-Navigation

Was passiert, wenn Algorithmen gegenüber Gruppen wie Geschlecht oder Ethnie voreingenommen sind?

KI-Anwendungsfälle

Algorithmischer Bias

Algorithmischer Bias entsteht, wenn Algorithmen systematische und wiederholbare Fehler machen, die zu unfairen Ergebnissen führen und eine Gruppe bevorzugen

Er umfasst verschiedene Bias-Arten, die in Entwicklung und Einsatz von Algorithmen entstehen können

Bias beim Trainieren von Algorithmen

Algorithmischer Bias beginnt oft durch Bias in der Datensammlung
Sind Trainingsdaten nicht repräsentativ oder verzerrt, lernt der Algorithmus diese Bias und setzt sie fort
Beispiel: fehlende ausreichende Repräsentation verschiedener Gruppen in einem Gesichtserkennungs-Algorithmus

Auswahl-Bias

Bias bei der Feature-Auswahl

Feature-Selection-Bias entsteht, wenn bestimmte Features ausgewählt werden nach Kriterien, die zu unfairen oder diskriminierenden Ergebnissen führen können
Dazu zählen Merkmale wie Ethnie, Geschlecht oder andere geschützte Kategorien
Beispiel: Ein Algorithmus für Kreditentscheidungen nimmt an, Einkommen sei der einzige relevante Faktor

Bewertungs-Bias

Ein nicht repräsentativer Datensatz in der Testphase kann zu Bewertungs-Bias führen
Beispiel:
- Ein Filmempfehlungs-Algorithmus
- Test nur auf ein Genre beschränkt
- Übersieht, dass er für andere Genres wie Romanze oder Komödie schlecht funktioniert

Bewertungs-Bias: nur ein Genre getestet

Automatisierungs-Bias

Automatisierte MRT-Diagnose

Die Tendenz, sich zu stark auf automatisierte Systeme zu verlassen

Beispiel:
- Ein Diagnosesystem analysiert medizinische Bilder wie MRTs
- Automatisierungs-Bias tritt auf, wenn Ergebnissen ohne Prüfen oder Bestätigen vertraut wird
- Das kann zu falschen Diagnosen führen

Lass uns üben!

Bias in Daten bewältigen