Herramientas adicionales para la RAI

Prácticas de IA responsable

Esther Montoya van Egerschot

Chief AI Governance @ DigiDiplomacy

Evaluaciones de riesgo e impacto

 

RIESGO

  • Prever posibles problemas
  • Impacto negativo

 

IMPACTO

  • Prever el potencial y el riesgo
  • Impacto positivo y negativo
Prácticas de IA responsable

Las evaluaciones de riesgo ayudan a:

  • Prever impactos perjudiciales
  • Mitigarlos proactivamente

 

Ejemplos:

  • Marco de Gestión de Riesgos de IA (AI RMF) del NIST y playbook AI RMF
  • Ley Local 144 de Nueva York
  • CNIL de Francia
  • Marco de evaluación de riesgos de IA de la OCDE

Aún no existe un enfoque universal para las evaluaciones de riesgo de la IA.

Prácticas de IA responsable

Las evaluaciones del impacto de la IA ayudan a las organizaciones a:

  • Identificar los efectos generales
  • Garantizar la alineación con los valores humanos
  • Fomentar la confianza y la transparencia

Ejemplos:

  • Evaluación de impacto de la IA (AIIA) neerlandesa
  • Responsible AI Impact Assessment Standard de Microsoft
  • IBM® watsonx
  • Evaluación de Impacto en Derechos Humanos (EIDH)
  • RAISE Benchmarks del Responsible AI Institute
Prácticas de IA responsable

Escollos habituales

  • Puntos ciegos éticos: sesgo implícito
  • Bluewashing o lavado de imagen ético: simulación
  • AI shopping: el negocio por encima de la ética
  • IA en la sombra: sin aprobación ni supervisión explícitas

Integrar evaluaciones de impacto de IA con las evaluaciones de riesgo:

  • Garantiza una evaluación total de los sistemas de IA
  • Evita el daño y contribuye activamente al bien social

Imagen de un ojo sobre un fondo oscuro como punto ciego

1 DALL·E
Prácticas de IA responsable

¡Vamos a practicar!

Prácticas de IA responsable

Preparing Video For Download...