Evaluación y mitigación del sesgo social

Conceptos de la IA generativa

Daniel Tedesco

Data Lead, Google

¿Qué entendemos por sesgo social?

$$ $$

Injusticia sistemática en la IA generativa

Graves consecuencias sociales
La equidad puede ser subjetiva
Centrarse en valores ampliamente compartidos

$$ $$

Una entrevista de trabajo.

Dónde aparece el sesgo

Datos de entrenamiento
El propio modelo
Cómo se utiliza el modelo

Básculas desequilibradas

Sesgo en los datos

Información sesgada o poco representativa en el conjunto de datos de entrenamiento

Dos embudos de entrenamiento. Uno muestra cuadrados morados que entran en entrenamiento y solo se generan cuadrados morados. El otro muestra una variedad de formas de colores que entran en entrenamiento y una variedad de formas que se generan.

Sesgo de los modelos

Perseguir objetivos que dan lugar a resultados sesgados

Político robot fotorrealista dando un discurso en la ONU

Sesgo de uso

Aplicar la IA de forma incorrecta o maliciosa

Ordenador portátil en el que se muestra un vídeo con una etiqueta gigante que dice «FAKE» (FALSO).

Identificar sesgos en los datos y los modelos

El análisis de representación compara cómo se refiere el modelo a los distintos grupos
Las métricas de equidad evalúan los modelos en cuanto a igualdad de trato, oportunidades y precisión entre los distintos grupos
Las auditorías humanas piden a personas reales que revisen los resultados de un modelo para identificar sesgos

Mitigar el sesgo en los datos y los modelos

Diversificar la recopilación de datos
Ajustar el modelo para priorizar los distintos datos
Entrenamiento antagónico
Mejora continua

Una colección de formas de diferentes colores y una muestra representativa de ellas seleccionadas

¡Vamos a practicar!

Conceptos de la IA generativa