Ethische Aspekte in der Entscheidungsfindung

Entscheidungswissenschaften verstehen

Akshay Swaminathan

PD Soros Fellow at Stanford University School of Medicine

Die Verantwortung von Data Science

  • Data Science ermöglicht Entscheidungen in allen Branchen

  • Ethische Nutzung ist zentral für Vertrauen und Fairness

  ethical.png

Entscheidungswissenschaften verstehen

Fallstudie: Optum

  • Optums Algorithmus bevorzugte unbeabsichtigt gesündere Patient:innen

    • Entwickelt zur Vorhersage von Versorgungsbedarf, priorisierte er Personen mit höheren Gesundheitsausgaben

  • Bias entstand durch fehlerhafte Datenannahmen

    • Ausgaben als Proxy für Bedarf führten zu rassistischen Ungleichheiten und benachteiligten Menschen mit geringerem Zugang zur Versorgung

  optum.png

Entscheidungswissenschaften verstehen

Fairness

fairness.png

Datenschutz und Sicherheit

privacy.png

Transparenz und Reproduzierbarkeit

transp.png

Gesellschaftliche Auswirkungen von Daten

socialimpact.png

Entscheidungswissenschaften verstehen

Bias in Modellen des maschinellen Lernens

  bias data.png

Bias in = Bias out

  • ML-Modelle spiegeln die Verzerrungen und Lücken der Trainingsdaten wider

 

Fairness ist messbar

  • Bewerte die Modellleistung über Gruppen hinweg, um Fairness zu prüfen
Entscheidungswissenschaften verstehen

Daten schützen

Decision Scientists und Organisationen müssen Daten sicher und verantwortungsvoll handhaben

Dazu gehört:

  • Sichere Infrastruktur mit aktuellen Schutzmaßnahmen
  • Beschränkter Zugriff: pro Rolle nur minimal nötige Daten
  • Einwilligungsbasierte Erhebung bei personenbezogenen Daten

Warum das wichtig ist:

  • Verstöße untergraben Vertrauen
  • Können zu Klagen führen
  • Schaden Ruf und Profitabilität

dataprotection.png

Entscheidungswissenschaften verstehen

Transparenz

 

Sorgt für Klarheit und Verantwortlichkeit

  • Dokumentiere Datenquellen, Bereinigungsschritte, Analysemethoden, erhobene Metriken und Unsicherheit

Reproduzierbarkeit

 

Reproduzierbarkeit schafft Vertrauen und Glaubwürdigkeit

  • Andere sollten die Analyse mit denselben Daten und Methoden wiederholen und die gleichen Ergebnisse erhalten können
Entscheidungswissenschaften verstehen

Ethik im Kern der Decision Science

Ethische Aspekte sind zentral für verantwortungsvolle Decision Science

  • Ethik ist nicht optional – sie ist essenziell
  • Fairness, Gerechtigkeit und Nutzen priorisieren
  • Ethische Prinzipien über den gesamten Datenlebenszyklus anwenden

ethicssummary.png

Entscheidungswissenschaften verstehen

Lass uns üben!

Entscheidungswissenschaften verstehen

Preparing Video For Download...