Consideraciones éticas en la toma de decisiones

Descifrando la Decision Science

Akshay Swaminathan

PD Soros Fellow at Stanford University School of Medicine

La responsabilidad de la ciencia de datos

  • La ciencia de datos impulsa decisiones en todos los sectores

  • El uso ético es clave para la confianza y la equidad

  ética.png

Descifrando la Decision Science

Caso práctico: Optum

  • El algoritmo de Optum favoreció sin querer a pacientes más sanos

    • Diseñado para predecir necesidades de atención, priorizó a quienes gastaban más en salud

  • El sesgo surgió por supuestos de datos erróneos

    • Usar gasto como proxy de necesidad generó disparidades raciales, perjudicando a quienes tenían menos acceso

  optum.png

Descifrando la Decision Science

Equidad

equidad.png

Privacidad y seguridad

privacidad.png

Transparencia y reproducibilidad

transparencia.png

Impacto social de los datos

impacto social.png

Descifrando la Decision Science

Sesgo en modelos de machine learning

  datos con sesgo.png

Sesgo dentro = Sesgo fuera

  • Los modelos de ML reflejan los sesgos y vacíos de los datos de entrenamiento

 

La equidad se puede medir

  • Evalúa el rendimiento por grupos para valorar la equidad
Descifrando la Decision Science

Proteger los datos

Las y los profesionales y las organizaciones deben garantizar un manejo de datos seguro y responsable

Implica:

  • Infraestructura segura y protecciones actualizadas
  • Acceso restringido: solo los datos mínimos por rol
  • Recogida de datos personales con consentimiento

Por qué importa:

  • Las brechas reducen la confianza
  • Puede acarrear demandas
  • Daña la reputación y la rentabilidad

protección de datos.png

Descifrando la Decision Science

Transparencia

 

Aporta claridad y rendición de cuentas

  • Informa fuentes de datos, limpieza, métodos de análisis, métricas recogidas e incertidumbre

Reproducibilidad

 

La reproducibilidad genera confianza y credibilidad

  • Otras personas deben poder repetir el análisis con los mismos datos y métodos y obtener los mismos resultados
Descifrando la Decision Science

La ética en el centro de la ciencia de decisiones

Las consideraciones éticas son clave para una ciencia de decisiones responsable

  • La ética no es opcional: es esencial
  • Prioriza equidad, justicia y beneficio
  • Aplica principios éticos en todo el ciclo de datos

resumen de ética.png

Descifrando la Decision Science

¡Vamos a practicar!

Descifrando la Decision Science

Preparing Video For Download...