Modellagnostische Erklärungen

Konzeptuelle Grundlagen von erklärbarer KI (XAI)

Folkert Stijnman

ML Engineer

Black-Box-Modelle

• Wir kennen die Eingabe
• Wir kennen die Ausgabe
• Dazwischen: viele interne Parameter

Globale und lokale Erklärungen

 

• SHAP (SHapley Additive exPlanations)
• LIME (Local Interpretable Model-agnostic Explanations)

 

SHAP (SHapley Additive exPlanations)

 

• Agiert wie ein Detektiv
• Jedes Feature betrachten
• Hilft, den relativen Einfluss jeder Zutat auf das Ergebnis zu bestimmen

Shapley-Werte

• Konzept aus der kooperativen Spieltheorie
• Wirkung von Features bewerten
• Welche Features zählen für die Vorhersage?

SHAP Bilderkennung

LIME (Local Interpretable Model-agnostic Explanations)

• Agiert wie ein Wissenschaftler
• Eingaben ändern, Ergebnis beobachten
• Was passiert, wenn wir Pixel im Bild ändern?

Ein selbstfahrendes Auto bauen

SHAP

• Globales Verständnis
• Einfluss von Fahrzeugs-Features auf die Gesamtleistung

LIME

• Lokales Verständnis
• Einfluss von Fahrzeugs-Features auf eine konkrete Entscheidung

Lass uns üben!

Konzeptuelle Grundlagen von erklärbarer KI (XAI)