Mitigación del sesgo

Gestión responsable de datos en AI

Maria Prokofieva

Lead ML engineer

Veremos

• Estrategias durante todo el ciclo de vida
• Re-muestreo y re-ponderación
• Re-etiquetado y eliminación de atributos sensibles
• Entrenamiento adversario y recalibración del modelo
• Comportamiento de usuarios
• Restricciones de equidad y selección de algoritmos
• Existen otras estrategias

Sesgo: recordatorio

• Errores sistemáticos o prejuicios
• Resultados injustos para grupos o personas

¹ Imagen de Streamline HQ

Sesgo a lo largo del proyecto

• En datos en bruto
• En preprocesamiento
• En modelado
• Tras el despliegue

Sesgo en preprocesamiento

• Re-muestreo
• Re-ponderación
• Re-etiquetado
• Eliminación de atributos sensibles

Estrategias en preprocesamiento

• Re-muestreo:
  • Ajusta la distribución para equilibrar clases
• Re-ponderación:
  • Corrige sesgos con pesos por clase sin cambiar el tamaño del conjunto
• Re-etiquetado:
  • Actualiza etiquetas para un objetivo preciso
• Eliminación de atributos sensibles:
  • Quita atributos protegidos

Sesgo en el modelado

• Sesgo del algoritmo
• Entrenamiento adversario
• Restricciones de equidad
• Selección de algoritmo: modelos más simples, robustos o generalizables

Asesor financiero

• Sesgo por disparidades económicas regionales
• Entrenamiento adversario para corregir sesgos
• Árboles de decisión y modelos lineales regularizados

¹ Imagen de Streamline HQ

Sesgo tras el despliegue y en el uso

• Vigila el sesgo para evitar el drift del modelo
• Recalibración del modelo
• Uso inadecuado de la aplicación

¹ Imagen de Streamline HQ

Asesor financiero

Drift del modelo:

• Economía freelance infrarrepresentada

Uso incorrecto:

• Actualizar información financiera

¹ Imagen de Streamline HQ

¡Vamos a practicar!

Gestión responsable de datos en AI