Explicaciones independientes del modelo

Conceptos de inteligencia artificial explicable (XAI)

Folkert Stijnman

ML Engineer

Modelos de caja negra

• Sabemos qué entra
• Sabemos qué sale
• Entre medias hay muchos parámetros internos

Explicaciones globales y locales

 

• SHAP (SHapley Additive exPlanations)
• LIME (Local Interpretable Model-agnostic Explanations)

 

SHAP (SHapley Additive exPlanations)

 

• Actúa como detective
• Mira cada variable
• Ayuda a ver el impacto relativo de cada ingrediente en el resultado final

Valores de Shapley

• Concepto de teoría de juegos cooperativos
• Evalúa el impacto de las variables
• Qué variables importan en la predicción del modelo

SHAP en reconocimiento de imágenes

LIME (Local Interpretable Model-agnostic Explanations)

• Actúa como científica
• Cambia la entrada para ver el resultado
• ¿Y si cambiamos algunos píxeles de esta imagen?

Construyendo un coche autónomo

SHAP

• Visión global
• Impacto de variables del coche en el rendimiento general

LIME

• Visión local
• Impacto de variables del coche en una decisión concreta

¡Vamos a practicar!

Conceptos de inteligencia artificial explicable (XAI)