Ética de datos y ética de IA

Introducción a la ética de los datos

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

¿Qué es la IA?

Ilustración de IA con entrada de datos y decisión de modelos.

  • La IA combina algoritmos y un sólido conjunto de datos para resolver problemas
  • Una IA potente utiliza grandes conjuntos de datos
  • Potencial masivo, arma de doble filo, consideraciones éticas
Introducción a la ética de los datos

Los datos son el combustible de la IA

Ilustración de la importancia de los datos para la IA con una analogía culinaria.

  • Los modelos de IA necesitan grandes cantidades de datos, la mayor parte del esfuerzo de la IA se dedica a los datos
  • Los datos deficientes conducen a resultados de IA deficientes
  • La ética de IA es más amplia que la ética de datos, es importante conocer las similitudes y las diferencias
1 Fuente de la foto: Seminario web de Andrew Ng, MLOps: From Model-centric to Data-centric AI
Introducción a la ética de los datos

Lo bueno y lo sorprendente

Collage de un asistente de voz, captura de pantalla de ChatGPT y captura de pantalla de la página de inicio de Netflix.

  • Asistentes de voz, IA conversacional
  • Recomendaciones de películas

Una radiografía de mama con dos tumores en diferentes fases de crecimiento.

  • IA para el bien
  • Diagnóstico precoz del cáncer
  • Agricultura de precisión: menor uso de agua y pesticidas
Introducción a la ética de los datos

El malo y el feo

Collage de capturas de pantalla de noticias sobre la discriminación de los algoritmos de IA

  • Discriminación en la contratación, acceso a la asistencia sanitaria y juicios justos
  • Muchos motivos: conjuntos de datos sesgados, modelos de IA complejos y de caja negra, falta de explicaciones
  • La ética de IA va más allá de la ética de datos
Introducción a la ética de los datos

Dilemas de la ética de IA

La ética de IA va más allá de la ética de datos

  • Consecuencias de decisiones de IA:
    • Acceso al crédito/préstamos
    • Contratación
  • Discriminación de la IA
  • La IA o los robots quitan puestos de trabajo
  • ¿Se cobrarán los robots/drones menos vidas humanas en una guerra?
  • ¿Qué significa ser humano?
  • ¿Codificar la moralidad en la IA?

Imagen de una señal de tráfico que apunta en direcciones opuestas con un fondo montañoso.

1 Fuente de la foto: unsplash.com
Introducción a la ética de los datos

¿Qué debe hacer una IA?

  • Vehículo autónomo con fallo de frenos
  • Seguir recto o virar
  • Seguir recto matará a una mujer, un hombre y una anciana
  • Virar matará a una joven y dos niños
  • ¿Quién es responsable?

Ilustración de un dilema ético de un vehículo autónomo

1 https://moralmachine.mit.edu/
Introducción a la ética de los datos

Las directrices de la ética de IA en pocas palabras

Muchas organizaciones y organismos trabajan en directrices de la ética de IA

  • Capacidad de decisión y supervisión humanas
  • Robustez técnica y seguridad
  • Privacidad y gobernanza de datos
  • Transparencia
  • Diversidad, no discriminación y justicia
  • Bienestar ambiental y social
  • Rendición de cuentas

Imagen del inventario de directrices de ética de IA de Algorithm Watch.

1 https://digital-strategy.ec.europa.eu/en/library/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment 2 https://inventory.algorithmwatch.org/
Introducción a la ética de los datos

Los datos se solapan

  • Privacidad, seguridad, protección de datos
  • Sesgo y justicia
  • Transparencia
  • Rendición de cuentas

Ilustración del solapamiento de la ética de datos e IA

Introducción a la ética de los datos

¡Practiquemos!

Introducción a la ética de los datos

Preparing Video For Download...