Herausforderungen verantwortungsvoller KI

Verantwortungsvolle KI-Datenverwaltung

Maria Prokofieva

Lead ML Engineer

Verantwortungsvolle Datenpraxis in der Praxis

Komplex

Mit Abwägungen verbunden

Fachurteil nötig

Verantwortungsvolle KI: blauer Kreis mit einer Hand, die einen AI‑Chip hält

Typische Abwägungen

Abwägungen

Dimensionen verantwortungsvoller KI

Business-Faktoren

Profit vor Fairness und Privatsphäre
Umsatz vor Tests und Sicherheit

Vortrainierte Modelle

Kosten senken
Zeit und Ressourcen sparen
Keine Datenbeschaffung und kein Training nötig
Möglicherweise voreingenahmte Trainingsdaten
Fehlende Transparenz

vortrainierte Modelle

Vortrainierte Modelle nutzen

Due-Diligence zur Modellquelle
Guter Ruf
Glaubwürdigkeit
Modelldokumentation prüfen
Zusätzliche Tests zu Fairness und Bias

Abwägung von Metriken

Genauigkeit vor Fairness
Auch bei ausbalancierten Datensätzen

Genauigkeits-Abwägungen

Geringere Genauigkeit für bestimmte Gruppen
Datenqualität/-menge unterrepräsentierter Gruppen unberücksichtigt
Privatsphäre senkt Genauigkeit

Gesichtserkennung

Robustheits-Abwägungen

Abwägung von Metriken

Robustheit vs. Bias
Robustheit vs. Fairness

Berufsethik und Sorgfaltspflichten

Ethik- und Verhaltenskodex
Leitlinien variieren nach Land und Organisation
Verantwortung, Nicht-Schaden, Fairness
Nutzerprivatsphäre und Vertraulichkeit
Positiver gesellschaftlicher Impact
Hohe Standards wahren
Robuste, sichere Systeme entwickeln
Inklusiv und diskriminierungsfrei

ACM

¹ https://www.acm.org/code-of-ethics

Lass uns üben!

Verantwortungsvolle KI-Datenverwaltung

Preparing Video For Download...