Auswirkungen von Datenbias auf Entscheidungen

Bias in Daten bewältigen

Konstantinos Kattidis

Data Analytics Lead

Bias und Datenethik

• Entscheidungen sind nur so verlässlich wie die zugrunde liegenden Daten
• Wenn Daten nicht zum Ziel passen, wird es zu einem Thema der Datenethik
• Sie umfasst die ethischen und moralischen Pflichten beim Sammeln, Analysieren und Nutzen von Daten
• Sie behandelt Diskriminierung, Privatsphäre, Transparenz und Rechenschaftspflicht

Ungleichbehandlung und Diskriminierung

• Datenbias kann zu ungerechter Behandlung bestimmter Personen oder Gruppen führen
• Voreingenommene Daten erzeugen diskriminierende Ergebnisse
• Zum Beispiel:
  • Verzerrte Stichproben von Kaufdaten benachteiligen unbeabsichtigt bestimmte Zielgruppen
  • Ergebnis: verzerrte Marketingstrategien

Verstärkung von Stereotypen

• Auf verzerrten Daten trainierte Modelle lernen und verstärken bestehende gesellschaftliche Vorurteile
• Wenn Trainingsdaten eines Empfehlungssystems vor allem Inhalte einer bestimmten politischen Ideologie zeigen
• Empfiehlt das System vorwiegend Inhalte, die zu dieser Ideologie passen

Vertrauensverlust und rechtliche Risiken

• Wird voreingenommene Entscheidungsfindung bekannt, schwindet Vertrauen in die Daten
• Im schlimmsten Fall folgen rechtliche und ethische Probleme
• Es drohen Klagen und Imageschäden für die Organisation

Leistung und Innovation ausbremsen

• Bias kann zu suboptimalen Entscheidungen führen und Leistung und Innovation hemmen
• Zum Beispiel:
  • Eine bestimmte Gruppe hat wegen Bias geringere Auslastung
  • Das führt zu fehlgeleiteten Leistungsbewertungen
  • Mit Folgen für Ressourcen, Prozesseffizienz und Innovation

Die Bias-Feedback-Schleife

• Bias kann eine Feedback-Schleife erzeugen, in der historische Vorurteile verstärkt und fortgeschrieben werden
• Voreingenommene Entscheidungen erzeugen neue voreingenommene Daten, die spätere Entscheidungen prägen

Lass uns üben!

Bias in Daten bewältigen