Bias-Minderung

Verantwortungsvolle KI-Datenverwaltung

Maria Prokofieva

Lead ML engineer

Das behandeln wir

• Strategien über den gesamten Projektlebenszyklus
• Resampling und Reweighting
• Relabeling und Entfernen sensibler Attribute
• Adversarielles Training und Modell-Rekalibrierung
• Nutzerverhalten
• Fairness-Constraints und Algorithmuswahl
• Weitere Strategien existieren

Bias: Wiederholung

• Systematische Fehler oder Voreingenommenheiten
• Unfaire Ergebnisse für Gruppen oder Einzelne

¹ Bild von Streamline HQ

Bias im Projektverlauf

• In Rohdaten
• Im Preprocessing
• Im Modeling
• Nach dem Deployment

Bias im Preprocessing

• Resampling
• Reweighting
• Relabeling
• Entfernen sensibler Attribute

Strategien im Preprocessing

• Resampling:
  • Verteilung anpassen für ausgeglichene Klassen
• Reweighting:
  • Verzerrungen mit Klassen-Gewichten korrigieren, Datensatzgröße konstant halten
• Relabeling:
  • Labels aktualisieren für korrekte Zielgröße
• Entfernen sensibler Attribute:
  • Geschützte Merkmale entfernen

Bias im Modeling

• Bias durch den Algorithmus
• Adversarielles Training
• Fairness-Constraints
• Algorithmuswahl: einfacher, robust oder besser generalisierend

Finanzberater

• Bias durch regionale Wirtschaftsungleichheiten
• Adversarielles Training zur Korrektur
• Entscheidungsbäume und regularisierte lineare Modelle

¹ Bild von Streamline HQ

Bias nach Deployment und Nutzung

• Bias monitoren, um Model Drift zu verhindern
• Modell-Rekalibrierung
• Unzulässige Nutzung der Anwendung

¹ Bild von Streamline HQ

Finanzberater

Model Drift:

• Unterrepräsentierte Freelancer-Ökonomie

Falsche Nutzung:

• Finanzdaten aktualisieren

¹ Bild von Streamline HQ

Lass uns üben!

Verantwortungsvolle KI-Datenverwaltung