Model-agnostische verklaringen

Concepten van Explainable Artificial Intelligence (XAI)

Folkert Stijnman

ML Engineer

Black-boxmodellen

• We weten wat erin gaat
• We weten wat eruit komt
• Daartussen zitten veel interne parameters

Globale en lokale verklaringen

 

• SHAP (SHapley Additive exPlanations)
• LIME (Local Interpretable Model-agnostic Explanations)

 

SHAP (SHapley Additive exPlanations)

 

• Doet als een detective
• Bekijk elke feature
• Helpt de relatieve impact van elk ingrediënt op de uitkomst te bepalen

Shapley-waarden

• Concept uit de coöperatieve speltheorie
• Beoordeel de impact van features
• Welke features tellen voor de voorspelling van het model

SHAP beeldherkenning

LIME (Local Interpretable Model-agnostic Explanations)

• Doet als een wetenschapper
• Verander input om de uitkomst te zien
• Wat als we pixels in dit beeld aanpassen?

Een zelfrijdende auto bouwen

SHAP

• Globaal begrip
• Impact van autokenmerken op de totale prestatie

LIME

• Lokaal begrip
• Impact van autokenmerken op een specifieke beslissing

Laten we oefenen!

Concepten van Explainable Artificial Intelligence (XAI)