Die technischen Grundlagen von XAI

Konzeptuelle Grundlagen von erklärbarer KI (XAI)

Folkert Stijnman

ML Engineer

Erklärbarkeit

  • Personen mit unterschiedlichem Hintergrund deuten Ergebnisse anders

Grafik, die die Erklärung von Datenmerkmalen in Prozent zeigt

Konzeptuelle Grundlagen von erklärbarer KI (XAI)

Erklärbarkeit

  • Personen mit unterschiedlichem Hintergrund deuten Ergebnisse anders

Grafik, die die Erklärung von Datenmerkmalen in Prozent und Wörtern zeigt

Konzeptuelle Grundlagen von erklärbarer KI (XAI)

Die Grenzen von XAI akzeptieren

 

  • Anspruchsvollere Modelle sind von Natur aus komplex: Black-Box-Modelle
  • Black-Box-Modelle: Modelltyp, dessen Entscheidungsprozess für Menschen nicht leicht nachvollziehbar ist
  • Trade-off zwischen Leistung und Erklärbarkeit

Grafik mit bekanntem Input, Fragezeichen und Output

Konzeptuelle Grundlagen von erklärbarer KI (XAI)

Balance zwischen Komplexität und Interpretierbarkeit

Grafik einer Waage zwischen Interpretierbarkeit und Komplexität

  • Nicht alle leistungsstarken Modelle opfern Interpretierbarkeit
  • Manche Techniken sind etwas weniger genau, aber besser interpretierbar
Konzeptuelle Grundlagen von erklärbarer KI (XAI)

Techniken in XAI

  • Von Natur aus interpretierbare Modelle: Entscheidungsbäume, lineare Regression
  • Erklärbarkeitstechniken: schätzen ab, was im Entscheidungsprozess passiert ist

Grafik eines interpretierbaren Modells

Konzeptuelle Grundlagen von erklärbarer KI (XAI)

Lass uns üben!

Konzeptuelle Grundlagen von erklärbarer KI (XAI)

Preparing Video For Download...