Verantwortungsvolle Daten-Dimensionen

Verantwortungsvolle KI-Datenverwaltung

Maria Prokofieva

Lead ML Engineer

Verantwortungsvolles Datenmanagement

  • Ethisches Datenmanagement
  • Modelle mit technischen Metriken evaluieren
  • Verantwortungsvolle KI

Dimensionen verantwortungsvoller Daten

Verantwortungsvolle KI-Datenverwaltung

In diesem Kurs

  • Dimensionen und Metriken verantwortungsvoller KI
  • Konzepte in der Praxis anwenden
  • Überblick: Regulierung und Lizenzen
  • Data Governance und Datenerhebung
  • Validierung und Bias-Minderung
Verantwortungsvolle KI-Datenverwaltung

Rechtmäßigkeit

  • Einhaltung von Gesetzen und Vorschriften
  • Sicherstellt korrekte Erhebung, Verarbeitung und Nutzung von Daten
  • Beispiele für Gesetze/Vorschriften:
    • Datenschutzgesetze
    • Menschenrechtsgesetze
    • Ethische Vorgaben gegenüber Stakeholdern
    • Variiert nach Behörde oder Land

Immer prüfen, was gilt!

Dimensionen verantwortungsvoller Daten: Rechtmäßigkeit

Verantwortungsvolle KI-Datenverwaltung

Fairness

  • Algorithmen und Datenpraktiken schaffen keine Ungleichheiten
  • Alle fair und ohne Diskriminierung behandeln

Dimensionen verantwortungsvoller Daten: Fairness

Verantwortungsvolle KI-Datenverwaltung

Transparenz und Rechenschaft

  • Wie die Daten genutzt werden
  • Wie das Modell entwickelt wird
  • Wie Entscheidungen getroffen werden
  • KI erklären
  • Vertrauen der Stakeholder aufbauen

Dimensionen verantwortungsvoller Daten: Transparenz und Rechenschaftspflicht

Verantwortungsvolle KI-Datenverwaltung

Diversität und Inklusion

  • Datenvielfalt
  • Unterschiedliche Perspektiven und Erfahrungen
  • Entscheidend zur Bias-Minderung

Dimensionen verantwortungsvoller Daten: Diversität und Inklusion

Verantwortungsvolle KI-Datenverwaltung

Datenschutz und Sicherheit

  • Schutz personenbezogener und sensibler Daten
  • Rechte von Personen achten und schützen
  • Daten und Modelle vor unbefugtem Zugriff schützen

Dimensionen verantwortungsvoller Daten: Datenschutz und Sicherheit

Verantwortungsvolle KI-Datenverwaltung

Amazon KI-Recruiting-Tool

  • Amazon: 2015–2017
  • Automatisierte Talentakquise
  • KI zur Bewertung von Bewerber:innen
  • Skandal, Projekt eingestellt

amazon KI

1 Reuters: https://www.reuters.com/article/idUSKCN1MK0AG/
Verantwortungsvolle KI-Datenverwaltung

Herausforderungen von KI-Modellen

Was lief schief?

  • Nicht geschlechtsneutral
  • Unausgewogene Trainingsdaten
  • Nur technische Metriken zur KI-Bewertung

unausgewogene Daten

Verantwortungsvolle KI-Datenverwaltung

Lass uns üben!

Verantwortungsvolle KI-Datenverwaltung

Preparing Video For Download...