Herramientas adicionales para la RAI

Prácticas de IA responsable

Esther Montoya van Egerschot

Chief AI Governance @ DigiDiplomacy

Evaluación de riesgo frente a evaluación de impacto

 

RIESGO

  • Prever posibles problemas
  • Impacto negativo

 

IMPACTO

  • Prever el potencial y el riesgo
  • Impacto positivo y negativo
Prácticas de IA responsable

Las evaluaciones de riesgos ayudan a:

  • anticipar impactos perjudiciales
  • mitigarlos proactivamente

 

Ejemplos:

  • Marco de Gestión de Riesgos de la Inteligencia Artificial (AI RMF) del NIST y su guía práctica: el AI RMF Playbook
  • Ley Local 144 de la ciudad de Nueva York
  • CNIL de Francia
  • Marco de evaluación de riesgos de la IA de la OCDE

Aún no existe un método de evaluación de riesgos de la IA que sea universalmente aceptado.

Prácticas de IA responsable

Las evaluaciones del impacto de la IA ayudan a las organizaciones a:

  • Identificar los efectos más amplios
  • Garantizar la alineación con los valores centrados en el ser humano
  • Fomentar la confianza y la transparencia

Ejemplos:

  • La Evaluación Holandesa del Impacto de la IA (AIIA)
  • El estándar de evaluación del impacto de la IA responsable de Microsoft
  • IBM® watsonx
  • Evaluación del Impacto sobre los Derechos Humanos (EIDH)
  • Puntos de referencia RAISE del Instituto de IA Responsable
Prácticas de IA responsable

Errores comunes

  • Puntos ciegos éticos: prejuicios implícitos
  • "Lavado de imagen ética" (Bluewashing): simulación de prácticas éticas
  • "IA compras": negocio antes que ética
  • "IA sombra": sin aprobación ni control

Integrar evaluaciones deimpacto y riesgo:

  • evaluación total de los sistemas IA
  • evita el daño y contribuye activamente al bien social

Una imagen de un ojo en un fondo oscuro como punto ciego

1 DALL·E
Prácticas de IA responsable

¡Vamos a practicar!

Prácticas de IA responsable

Preparing Video For Download...