IA explicable

Ética de la IA

Joe Franklin

Associate Data Literacy and Essentials Manager, DataCamp

¿Qué es la IA explicable?

Sistemas de IA cuyo funcionamiento interno comprenden los seres humanos
Objetivo: hacer que la toma de decisiones de la IA sea clara, comprensible y explicable
Ayuda a comprender por qué y cómo toma decisiones la IA
Un gran paso hacia el uso ético de la IA

Icono que ilustra un sistema de IA.

¹ Icono creado por vectorsmarket15 a partir de www.flaticon.com

La transparencia, la equidad y la rendición de cuentas son fundamentales
Las conclusiones de la IA deben ser accesibles y lógicas para los seres humanos

Icono que ilustra el pensamiento lógico.

Icono que ilustra un árbol de decisión.

Modelos creados con la explicabilidad como eje central
Utiliza modelos interpretables como árboles de decisión o regresión lineal
El poder de ver el proceso, a pesar de que el rendimiento pueda ser inferior

¹ Iconos creados por juicy_fish y Becris a partir de www.flaticon.com

Una ilustración de cómo funciona la XAI.

Una persona que piensa en características como el presupuesto, el género, el reparto y el director.

LIME como traductor que ayuda al modelo a comunicarse
Crea una versión más sencilla del proceso de toma de decisión del modelo para una previsión específica
Ejemplo:
- Explica la previsión de éxito de una película basándose en factores como la popularidad del director y el elevado presupuesto

Icono que ilustra el proceso de traducción.

¹ Icono realizado por Freepik a partir de www.flaticon.com

SHAP: detective de la IA, que revela la importancia de las características
SHAP en acción
- Director: 50 %
- Reparto: 30 %
- Género: 15 %
- Presupuesto: 5 %

Un gráfico circular que muestra SHAP en acción.

Ética de la IA