Las particularidades de la XAI

Conceptos de inteligencia artificial explicable (XAI)

Folkert Stijnman

ML Engineer

Explicabilidad

  • Personas con distintos perfiles interpretarán los resultados de forma distinta

gráfico que muestra la explicación de características en porcentajes

Conceptos de inteligencia artificial explicable (XAI)

Explicabilidad

  • Personas con distintos perfiles interpretarán los resultados de forma distinta

gráfico que muestra la explicación de características en porcentajes y palabras

Conceptos de inteligencia artificial explicable (XAI)

Asumir las limitaciones de la XAI

 

  • Los modelos más sofisticados son intrínsecamente complejos: modelos de caja negra
  • Modelos de caja negra: tipo de modelo cuyo proceso de decisión no se entiende fácilmente por humanos
  • Compromiso entre rendimiento y explicabilidad

gráfico con una entrada conocida, un signo de interrogación y una salida

Conceptos de inteligencia artificial explicable (XAI)

Equilibrio entre complejidad e interpretabilidad

gráfico de una balanza entre interpretabilidad y complejidad

  • No todos los modelos potentes sacrifican interpretabilidad
  • Ciertas técnicas tienen algo menos de precisión pero más interpretabilidad
Conceptos de inteligencia artificial explicable (XAI)

Técnicas en XAI

  • Modelos interpretables por diseño: árboles de decisión, regresión lineal
  • Técnicas de explicabilidad: estiman qué ocurrió en el proceso de decisión

gráfico que muestra un modelo interpretable

Conceptos de inteligencia artificial explicable (XAI)

¡Vamos a practicar!

Conceptos de inteligencia artificial explicable (XAI)

Preparing Video For Download...