Explicabilidad e interpretabilidad

Comprender la inteligencia artificial

Iason Prassides

Content Developer, DataCamp

Explicabilidad e interpretabilidad

Explicabilidad: capacidad humana para acceder y comprender resultados de IA

Explicabilidad en un clasificador de pingüinos de ML

Interpretabilidad: comprender los procesos internos de la IA: algoritmo, modelo y flujo de datos

Interpretabilidad en un modelo de ML basado en árboles de decisión

IA de caja blanca vs. caja negra

Caja blanca: modelos/sistemas transparentes y fácilmente interpretables

Regresión lineal como modelo de caja blanca

IA de caja blanca vs. caja negra

Caja blanca: modelos/sistemas transparentes y fácilmente interpretables

Regresión lineal y árbol de decisión

IA de caja blanca vs. caja negra

Caja blanca: modelos/sistemas transparentes y fácilmente interpretables

Regresión lineal y árbol de decisión

IA de caja blanca vs. caja negra

Caja negra: mayor complejidad, poco o ningún grado de comprensibilidad

Red neuronal profunda como modelo de caja negra

IA de caja blanca vs. caja negra

Caja negra: mayor complejidad, poco o ningún grado de comprensibilidad

Red neuronal profunda como modelo de caja negra

Herramientas básicas de IA explicable (XAI)

XAI: métodos y herramientas para mejorar la transparencia y explicabilidad de la IA

Introspección del modelo: análisis de parámetros internos para entender decisiones

Herramientas básicas de IA explicable (XAI)

XAI: métodos y herramientas para mejorar la transparencia y explicabilidad de la IA

Introspección del modelo: análisis de parámetros internos para entender decisiones

Documentación del modelo: arquitectura compartible y consideraciones de diseño

Herramientas básicas de IA explicable (XAI)

XAI: métodos y herramientas para mejorar la transparencia y explicabilidad de la IA

Introspección del modelo: análisis de parámetros internos para entender decisiones

Documentación del modelo: arquitectura compartible y consideraciones de diseño

Visualización del modelo: representación de características y resultados del modelo

Herramientas XAI: importancia de las características

Importancia de las características: impacto o contribución de los predictores

Comprende cómo toman decisiones los modelos basados en datos (ML/DL)
Detecta y mitiga los problemas
Hay un impacto en el rendimiento del modelo si se elimina una característica

SHAP (SHapley Additive exPlanations)

Caja de herramientas de visualización de la importancia de los rasgos

Visualizaciones de SHAP para la explicabilidad

Herramientas XAI: importancia de las características

SHAP (SHapley Additive exPlanations)

Visualizaciones de SHAP para la explicabilidad

Herramientas XAI: importancia de las características

SHAP (SHapley Additive exPlanations)

Visualizaciones de SHAP para la explicabilidad

Herramientas XAI: importancia de las características

SHAP (SHapley Additive exPlanations)

Visualizaciones de SHAP para la explicabilidad

Implicaciones prácticas de XAI

Transparencia algorítmica:
- Cómo procesan los datos y toman decisiones los algoritmos

Interpretabilidad local y global:
- Comprender el comportamiento del sistema para una predicción específica, vs.
- Comprender el comportamiento del sistema en un conjunto de datos o problema

Consideraciones éticas:
- XAI para abordar los problemas éticos de la IA: sesgos, discriminación, cumplimiento, etc.

Colaboración entre humanos e IA:
- Colaboración fiable basada en la confianza y la retroalimentación

¡Vamos a practicar!

Comprender la inteligencia artificial