Explications indépendantes du modèle

Concepts d'Explainable Artificial Intelligence (XAI)

Folkert Stijnman

ML Engineer

Modèles « boîte noire »

• Nous connaissons l'entrée
• Nous connaissons la sortie
• Entre les deux : de nombreux paramètres internes

Explications globales et locales

 

• SHAP (SHapley Additive exPlanations)
• LIME (Local Interpretable Model-agnostic Explanations)

 

SHAP (SHapley Additive exPlanations)

 

• Agit comme un détective
• Analyse chaque caractéristique
• Aide à cerner l'effet relatif de chaque ingrédient sur le résultat final

Valeurs de Shapley

• Concept de la théorie des jeux coopératifs
• Évalue l'impact des caractéristiques
• Quelles caractéristiques comptent pour la prédiction du modèle

Reconnaissance d'images avec SHAP

LIME (Local Interpretable Model-agnostic Explanations)

• Agit comme un scientifique
• Modifie l'entrée pour voir la sortie
• Et si l'on changeait quelques pixels de cette image ?

Construire une voiture autonome

SHAP

• Compréhension globale
• Effet des caractéristiques du véhicule sur la performance générale

LIME

• Compréhension locale
• Effet des caractéristiques du véhicule sur une décision précise

Passons à la pratique !

Concepts d'Explainable Artificial Intelligence (XAI)