Erklärbare KI

KI-Ethik

Joe Franklin

Associate Data Literacy and Essentials Manager, DataCamp

Was ist erklärbare KI?

• KI-Systeme mit nachvollziehbarer Funktionsweise
• Ziel: Entscheidungen und Ergebnisse transparent und nachvollziehbar machen
• Fördert das Verständnis von KI-Entscheidungen
• Stellt einen wichtigen Schritt zur ethischen Nutzung von KI dar

¹ Icon erstellt von vectorsmarket15 aus www.flaticon.com

Die zentralen Säulen

• Transparenz, Fairness und Rechenschaftspflicht
• KI-Schlussfolgerungen sollten für Menschen zugänglich und logisch sein

• Modelle mit eingebauter Erklärbarkeit
• Nachvollziehbare Modelle wie Entscheidungsbäume oder lineare Regression
• Stärke: Den Prozess verstehen – auch bei ggf. geringerer Leistung

¹ Icons erstellt von juicy_fish & Becris von www.flaticon.com

Funktionsweise

Funktionsweise

Lokale Interpretierbare Modell-agnostische Erklärungen (LIME)

• LIME als Übersetzer, das dem Modell dabei hilft, zu kommunizieren
• Erstellt eine vereinfachte Version des Modellentscheidungsprozesses für eine bestimmte Vorhersage
• Beispiel:
  • Erklärt anhand von Faktoren wie Budget und Regisseur eine Vorhersage, warum ein Film zum Hit werden wird

¹ Icon erstellt von Freepik aus www.flaticon.com

SHapley Additive exPlanations (SHAP)

• SHAP: Ein KI-Detektiv, der die Bedeutung von Merkmalen aufdeckt
• SHAP in Aktion
  • Regisseur: 50%
  • Besetzung: 30 %
  • Genre: 15%
  • Budget: 5 %

Die Zukunft von XAI

• Es gibt viele weitere Techniken und Ansätze für XAI
• Die Fähigkeitslücke zwischen XAI und herkömmlicher KI wird immer kleiner
• Laufende Forschung verbessert die Interpretierbarkeit von KI

Lass uns üben!

KI-Ethik