Ética de los datos y ética de la IA

Introducción a la ética de los datos

Shalini Kurapati, PhD

Co-founder and CEO, Clearbox AI

¿Qué es la IA?

Ilustración de la IA con entrada de datos y decisión del modelo.

  • La IA combina algoritmos y un sólido conjunto de datos para resolver problemas
  • Una IA potente utiliza grandes conjuntos de datos
  • Potencial masivo, arma de doble filo, consideraciones éticas
Introducción a la ética de los datos

Los datos son el combustible de la IA

Ilustración de la importancia de los datos para la IA con una analogía culinaria.

  • Los modelos de IA necesitan grandes cantidades de datos.
  • Los datos deficientes conducen a resultados deficientes en IA
  • La ética de la IA es más amplia que la ética de los datos.
1 Fuente de la foto: El seminario web de Andrew Ng, MLOps: De la IA centrada en modelos a la centrada en datos
Introducción a la ética de los datos

Lo bueno y lo sorprendente

Un collage de un altavoz con asistente de voz, una captura de pantalla de chatgpt y una captura de pantalla de la página de inicio de Netflix.

  • Asistentes de voz, IA conversacional
  • Recomendaciones de películas

Una radiografía de mama con dos tumores en diferentes fases de crecimiento.

  • IA para el bien
  • Diagnóstico precoz del cáncer
  • Agricultura de precisión: menor uso de agua y pesticidas
Introducción a la ética de los datos

Lo malo y lo feo

Un collage de capturas de pantalla de noticias sobre la discriminación de algoritmos de IA.

  • Discriminación en la contratación, acceso a la asistencia sanitaria y juicios justos
  • Muchas razones: conjuntos de datos sesgados, modelos de IA complejos
  • La ética de la IA va más allá de la ética de los datos
Introducción a la ética de los datos

Dilemas éticos de la IA

La ética de la IA va más allá de la ética de los datos

  • Consecuencias de decisiones de IA:
    • Acceso al crédito/préstamos
    • Contratación
  • Discriminación de la IA
  • La IA o los robots - los puestos de trabajo
  • ¿Se cobrarán los robots/drones menos vidas humanas en una guerra?
  • ¿Qué significa ser humano?
  • ¿Codificar la moralidad en la IA?

Imagen de una señal de tráfico que apunta en direcciones opuestas con un fondo montañoso.

1 Fuente de la foto: unsplash.com
Introducción a la ética de los datos

¿Qué debe hacer una IA?

  • Coche autoconducido con fallo repentino de frenos
  • Seguir o dar un volantazo
  • Continuar matará a una mujer, un hombre y una mujer mayor
  • Un volantazo matará a una joven y a dos niños
  • ¿Quién es responsable?

Ilustración de un dilema ético de un coche autoconducido

1 https://moralmachine.mit.edu/
Introducción a la ética de los datos

Las directrices éticas de la IA en pocas palabras

Muchas organizaciones y organismos trabajan en directrices éticas sobre IA

  • Agencia humana y supervisión
  • Robustez técnica y seguridad
  • Privacidad y gobernanza de datos
  • Transparencia
  • Diversidad, no discriminación y equidad
  • Bienestar medioambiental y social
  • Responsabilidad

Imagen del inventario de directrices éticas sobre IA de algorithm watch.

1 https://digital-strategy.ec.europa.eu/en/library/assessment-list-trustworthy-artificial-intelligence-altai-self-assessment 2 https://inventory.algorithmwatch.org/
Introducción a la ética de los datos

Los datos se solapan

  • Privacidad, seguridad, protección de datos
  • Sesgo e imparcialidad
  • Transparencia
  • Responsabilidad

Ilustración del solapamiento de la ética de los datos y la IA

Introducción a la ética de los datos

¡Vamos a practicar!

Introducción a la ética de los datos

Preparing Video For Download...