Sesgo en los algoritmos

Cómo vencer el sesgo en los datos

Konstantinos Kattidis

Data Analytics Lead

IA y sesgo de datos

La IA tiene varios usos:

  • Recomendaciones personalizadas
  • Navegación de rutas

 

¿Qué pasa si los algoritmos tienen sesgo contra ciertos grupos, como género o raza?

Casos de uso de IA

Cómo vencer el sesgo en los datos

Sesgo algorítmico

Sesgo algorítmico

El sesgo algorítmico surge cuando los algoritmos producen errores sistemáticos y repetibles que generan resultados injustos, favoreciendo a un grupo frente a otro

  • Abarca varios tipos de sesgos que pueden aparecer al desarrollar y desplegar algoritmos
Cómo vencer el sesgo en los datos

Sesgo durante el entrenamiento

  • El sesgo algorítmico suele empezar con sesgo en la recogida de datos
  • Si los datos de entrenamiento no son representativos o están sesgados, el modelo puede aprender y perpetuar ese sesgo
  • Por ejemplo: falta de representación adecuada de grupos diversos en un sistema de reconocimiento facial

Sesgo de selección

Cómo vencer el sesgo en los datos

Sesgo en selección de variables

Sesgo en la selección de variables

  • El sesgo en la selección de variables ocurre cuando se eligen ciertas variables según criterios que pueden generar resultados injustos o discriminatorios
  • Por ejemplo: raza, género u otras características protegidas
  • Ejemplo: un modelo para predecir aprobaciones de préstamos que asume que el ingreso es el único factor relevante
Cómo vencer el sesgo en los datos

Sesgo de evaluación

  • Usar un conjunto de datos no representativo en la fase de test puede generar sesgo de evaluación
  • Por ejemplo:
    • Un algoritmo de recomendación de películas
    • Evalúa el rendimiento solo con un género
    • Pasa por alto que quizá falle en otros, como romance o comedia

Sesgo de evaluación, probar solo un género

Cómo vencer el sesgo en los datos

Sesgo de automatización

Automatización del diagnóstico por RM

Tendencia de las personas a confiar en exceso en sistemas automatizados

  • Por ejemplo:
    • Se usa un sistema para analizar imágenes médicas (p. ej., RM)
    • Hay sesgo de automatización si se confían los resultados sin revisar ni confirmar los hallazgos
    • Esto puede llevar a diagnósticos erróneos
Cómo vencer el sesgo en los datos

¡Vamos a practicar!

Cómo vencer el sesgo en los datos

Preparing Video For Download...