Evaluación de riesgos de IA

Estrategia de inteligencia artificial (IA)

Vidhi Chugh

AI strategist and ethicist

Salvaguardas éticas

 

• UNESCO
  • Fijar salvaguardas
  • Prevenir riesgos como sesgo y discriminación
  • Derechos humanos fundamentales

 

¹ https://www.unesco.org/en/artificial-intelligence/recommendation-ethics

Riesgos de IA

 

• National Institute of Standards and Technology (NIST)

  

 

• Probabilidad de ocurrencia
• Grado de las consecuencias

¹ https://www.nist.gov/artificial-intelligence

Riesgos de datos

• Privacidad de datos
  • Información sensible

• Sesgo en los datos
  • Perpetúa sesgos sociales  

IA mal implementada

 

• Sesgo de género

 

• Discriminación racial

Brecha de privacidad de datos

• Multa alta por incumplir el RGPD
• Tratamiento ilícito de datos
• Imágenes raspadas para reconocimiento facial

 

Implicaciones para el negocio

Legal

Implicaciones para el negocio

Legales, reputacionales

Implicaciones para el negocio

Daños legales, reputacionales y financieros.

Marcos éticos

Marcos éticos

Marcos éticos

Pilares clave de la evaluación de riesgos

                Privacidad

                Equidad

             Transparencia

             Responsabilidad

Normativa y cumplimiento

• Ciclo de vida del proyecto de IA

• Normativa y cumplimiento
  • La rendición de cuentas requiere gobernanza
  • Definir roles y responsabilidades
  • Cumplir la normativa de privacidad de datos
  • Obtener consentimiento y anonimizar datos

Recopilación y preparación de datos

Evaluar

• ¿Disponibles internamente o adquirir externamente?
• ¿Información sensible como información personal identificable (PII)?
• ¿Población bien representada?

Mitigar

• Procesos para la integridad de datos
• Cifrar identificadores, generar datos sintéticos
• Crear datos balanceados

Desarrollo y evaluación del modelo

• Explicar los resultados del modelo
  • Explicación e identificación de sesgos
  • Trato justo entre categorías

Despliegue y monitorización del modelo

 

• Grado de impacto

• Establecer estrategias de mitigación

 

 

• El coste es alto en salud y finanzas

• Realinear el comportamiento del modelo

 

¡Vamos a practicar!

Estrategia de inteligencia artificial (IA)