Soziale Vorurteile einschätzen und abmildern

Konzeptuelle Einführung in generative KI

Daniel Tedesco

Data Lead, Google

Was verstehen wir unter sozialen Vorurteilen?

$$ $$

Systematische Ungerechtigkeit in generativer KI

Schwerwiegende gesellschaftliche Folgen
Gerechtigkeit kann subjektiv sein
Fokus auf allgemeingültige Werte

$$ $$

Ein Vorstellungsgespräch

Wo Vorurteile auftauchen

Trainingsdaten
Das Modell selbst
Wie das Modell verwendet wird

Unausgeglichene Waage

Vorurteile in Daten

Verzerrte oder nicht repräsentative Informationen im Trainingsdatensatz

Zwei Trainings-Trichter. Der eine zeigt lila Quadrate, die ins Training gehen, und nur lila Quadrate, die erzeugt werden. Der andere zeigt eine Vielzahl von farbigen Formen, die ins Training gehen und eine Vielzahl von Formen, die erzeugt werden

Vorurteile in Modellen

Verfolgen von Zielen, die zu einseitigen Ergebnissen führen

Fotorealistischer Roboter-Politiker, der eine Rede vor der UNO hält

Vorurteile bei der Nutzung

Falsche oder böswillige Anwendung von KI

Laptop, der ein Video mit einem riesigen "FAKE"-Aufkleber zeigt

Erkennen von Vorurteilen in Daten und Modellen

Die Repräsentationsanalyse vergleicht, wie sich das Modell auf verschiedene Gruppen bezieht.
Fairness-Metriken bewerten Modelle auf Gleichbehandlung, Chancengleichheit und Genauigkeit zwischen Gruppen.
Bei der Überprüfung durch den Menschen werden echte Menschen gebeten, die Ergebnisse eines Modells zu überprüfen, um Vorurteile zu erkennen.

Abmildern von Vorurteilen in Daten und Modellen

Datenerhebung diversifizieren
Modell anpassen, um verschiedene Daten zu priorisieren
Gegnerisches Lernen
Kontinuierliche Verbesserung

Eine Sammlung von Formen verschiedener Farben und eine repräsentative Auswahl davon

Lass uns üben!

Konzeptuelle Einführung in generative KI