Explicabilidad e interpretabilidad

Comprender la inteligencia artificial

Iason Prassides

Content Developer, DataCamp

Explicabilidad e interpretabilidad

Explicabilidad: capacidad humana para acceder y comprender resultados de IA

Explicabilidad en un clasificador de pingüinos de ML

Interpretabilidad: comprender los procesos internos de la IA: algoritmo, modelo y flujo de datos

Interpretabilidad en un modelo ML basado en árboles de decisión

IA de caja blanca vs. caja negra

Caja blanca: modelos/sistemas transparentes y fácilmente interpretables

Regresión lineal como modelo de caja blanca

IA de caja blanca vs. caja negra

Caja blanca: modelos/sistemas transparentes y fácilmente interpretables

Regresión lineal y árbol de decisión

IA de caja blanca vs. caja negra

Caja blanca: modelos/sistemas transparentes y fácilmente interpretables

Regresión lineal y árbol de decisión

IA de caja blanca vs. caja negra

Caja negra: mayor complejidad, poco o ningún grado de comprensibilidad

Red neuronal profunda como modelo de caja negra

IA de caja blanca vs. caja negra

Caja negra: mayor complejidad, poco o ningún grado de comprensibilidad

Red neuronal profunda como modelo de caja negra

Herramientas básicas de IA explicable (XAI)

XAI: métodos y herramientas para mejorar la transparencia y explicabilidad de la IA

Introspección del modelo: análisis de parámetros internos para entender decisiones

Herramientas básicas de IA explicable (XAI)

XAI: métodos y herramientas para mejorar la transparencia y explicabilidad de la IA

Introspección del modelo: análisis de parámetros internos para entender decisiones

Documentación del modelo: arquitectura compartible y consideraciones de diseño

Herramientas básicas de IA explicable (XAI)

XAI: métodos y herramientas para mejorar la transparencia y explicabilidad de la IA

Introspección del modelo: análisis de parámetros internos para entender decisiones

Documentación del modelo: arquitectura compartible y consideraciones de diseño

Visualización del modelo: representación de características y resultados del modelo

Herramientas XAI: importancia de los atributos

Importancia de los atributos: impacto o contribución de los predictores

Comprender cómo toman decisiones los modelos basados en datos (ML/DL)
Detecta y mitiga los problemas, como los sesgos
Hay un impacto en el rendimiento del modelo si se elimina una característica

SHAP (SHapley Additive exPlanations)

Caja de herramientas de visualización de la importancia de los atributos

Visualizaciones SHAP para la explicabilidad

Herramientas XAI: importancia de los atributos

SHAP (SHapley Additive exPlanations)

Gráfico de importancia de los atributos SHAP para el modelo de predicción de admisión a la universidad

Herramientas XAI: importancia de los atributos

SHAP (SHapley Additive exPlanations)

Visualizaciones SHAP para la explicabilidad

Herramientas XAI: importancia de los atributos

SHAP (SHapley Additive exPlanations)

Visualizaciones SHAP para la explicabilidad

Implicaciones prácticas de XAI

Transparencia algorítmica:
- Cómo procesan los datos y toman decisiones los algoritmos

Interpretabilidad local y global:
- Comprender el comportamiento del sistema para una predicción específica, vs.
- Comprender el comportamiento del sistema en un conjunto de datos o problema

Consideraciones éticas:
- XAI para abordar los problemas éticos de la IA: sesgos, discriminación, cumplimiento, etc.

Colaboración entre humanos e IA:
- Colaboración fiable basada en la confianza y la retroalimentación

¡Vamos a practicar!

Comprender la inteligencia artificial