Erklärbare KI

KI-Ethik

Joe Franklin

Associate Data Literacy and Essentials Manager, DataCamp

Was ist erklärbare KI?

• KI-Systeme mit nachvollziehbarer Funktionsweise
• Ziel: Entscheidungen und Ergebnisse transparent und nachvollziehbar machen
• Fördert das Verständnis von KI-Entscheidungen
• Stellt einen wichtigen Schritt zur ethischen Nutzung von KI dar

¹ Icon erstellt von vectorsmarket15 aus www.flaticon.com

Die zentralen Säulen

• Transparenz, Fairness und Rechenschaftspflicht
• KI-Schlussfolgerungen sollten für Menschen zugänglich und logisch sein

• Modelle mit erklärbarem Kern
• Verwendet nachvollziehbare Modelle (z. B. Entscheidungsbäume)
• Stärke: Den Prozess verstehen – auch bei ggf. geringerer Leistung

¹ Icons erstellt von juicy_fish & Becris von www.flaticon.com

Wie funktioniert das?

Wie funktioniert das?

Lokale interpretierbare modell-agnostische Erklärungen (LIME)

• LIME als Übersetzer, die dem Modell helfen, zu kommunizieren
• Stellt eine nachvollziehbare Version der Modellentscheidung dar
• Beispiel:
  • Zeigt anhand von Budget und Regisseur, warum ein Film zum Hit wird

¹ Icon erstellt von Freepik aus www.flaticon.com

SHapley Additive exPlanations (SHAP)

• SHAP: Ein KI-Detektiv, der die Bedeutung von Merkmalen aufdeckt
• SHAP in Aktion
  • Regisseur: 50%
  • Besetzung: 30 %
  • Genre: 15%
  • Budget: 5 %

Zukunft von XAI

• Es gibt viele weitere Techniken und Ansätze in XAI
• Die Kluft zwischen XAI und traditioneller KI schrumpft
• Laufende Forschung verbessert die Interpretierbarkeit von KI

Lass uns üben!

KI-Ethik