Spiegazioni agnostiche al modello

Concetti di Explainable Artificial Intelligence (XAI)

Folkert Stijnman

ML Engineer

Modelli black box

• Sappiamo cosa entra
• Sappiamo cosa esce
• In mezzo ci sono molti parametri interni

Spiegazioni globali e locali

 

• SHAP (SHapley Additive exPlanations)
• LIME (Local Interpretable Model-agnostic Explanations)

 

SHAP (SHapley Additive exPlanations)

 

• Agisce come un detective
• Esamina ogni feature
• Aiuta a capire l’impatto relativo di ogni ingrediente sull’esito finale

Valori di Shapley

• Concetto della teoria dei giochi cooperativi
• Valuta l’impatto delle feature
• Quali feature contano per la previsione del modello

SHAP nel riconoscimento immagini

LIME (Local Interpretable Model-agnostic Explanations)

• Si comporta come uno scienziato
• Cambia l’input per vedere l’output
• E se modifichiamo alcuni pixel in questa immagine?

Costruire un’auto a guida autonoma

SHAP

• Visione globale
• Impatto delle feature dell’auto sulle prestazioni complessive

LIME

• Visione locale
• Impatto delle feature dell’auto su una decisione specifica

Passons à la pratique !

Concetti di Explainable Artificial Intelligence (XAI)