Explicații independente de model

Concepte de Inteligență Artificială Explicabilă (XAI)

Folkert Stijnman

ML Engineer

Modele tip cutie neagră

• Știm ce intră
• Știm ce iese
• Între ele se află mulți parametri interni

Explicații globale și locale

 

• SHAP (SHapley Additive exPlanations)
• LIME (Local Interpretable Model-agnostic Explanations)

 

SHAP (SHapley Additive exPlanations)

 

• Acționează ca un detectiv
• Analizează fiecare caracteristică
• Determină impactul relativ al fiecărui ingredient asupra rezultatului final

Valorile Shapley

• Concept din teoria jocurilor cooperative
• Evaluează impactul caracteristicilor
• Ce caracteristici contează pentru predicția modelului

Recunoaștere de imagini cu SHAP

LIME (Local Interpretable Model-agnostic Explanations)

• Acționează ca un om de știință
• Modifică intrarea pentru a observa rezultatul
• Ce se întâmplă dacă schimbăm câțiva pixeli din imagine?

Construirea unei mașini autonome

SHAP

• Înțelegere globală
• Impactul caracteristicilor mașinii asupra performanței generale

LIME

• Înțelegere locală
• Impactul caracteristicilor mașinii asupra unei decizii specifice

Să exersăm!

Concepte de Inteligență Artificială Explicabilă (XAI)