Explications indépendantes du modèle

Fondamentaux de l’IA explicable (XAI)

Folkert Stijnman

ML Engineer

Modèles « boîtes noires »

• On sait ce qui entre
• On sait ce qui sort
• Entre les deux, de nombreux paramètres internes

Explications globales et locales

 

• SHAP (SHapley Additive exPlanations)
• LIME (Local Interpretable Model-agnostic Explanations)

 

SHAP (SHapley Additive exPlanations)

 

• Agit comme un détective
• Examine chaque variable
• Aide à estimer l’impact relatif de chaque ingrédient sur le résultat final

Valeurs de Shapley

• Concept de la théorie des jeux coopératifs
• Évaluer l'impact des variables
• Quelles variables comptent pour la prédiction du modèle

SHAP et reconnaissance d’images

LIME (Local Interpretable Model-agnostic Explanations)

• Agit comme un·e scientifique
• Modifie l’entrée pour voir la sortie
• Et si l’on change quelques pixels de cette image ?

Construire une voiture autonome

SHAP

• Vision globale
• Impact des caractéristiques de la voiture sur les performances globales

LIME

• Vision locale
• Impact des caractéristiques de la voiture sur une décision précise

Passons à la pratique !

Fondamentaux de l’IA explicable (XAI)