Identificación de los riesgos de la IA

Prácticas de IA responsable

Esther Montoya van Egerschot

Chief AI Governance @ DigiDiplomacy

Partes interesadas afectadas por la IA

 

  • Individuos
  • Grupos
  • Naciones
  • Sociedad

Una imagen de unas manos en círculo con los colores del arco iris

1 Midjourney
Prácticas de IA responsable

Diseño, desarrollo e implementación

 

El ciclo de vida de la IA consta de tres fases:

  • Diseño
  • Desarrollo
  • Implementación

 

Un diagrama de tres elementos: Diseñar, Desarrollar, Implementar

Prácticas de IA responsable

Diseño

 

  • Definir objetivos
  • Su valor empresarial
  • Planificación de la arquitectura de datos
  • Calcular el impacto presupuestario
  • Comprobar el apoyo de las partes interesadas internas y externas

  Un diagrama de tres elementos: diseño, desarrollo e implementación, con el diseño en la parte superior.

Prácticas de IA responsable

Desarrollo

 

  • Construcción
  • Entrenamiento
  • Prueba

 

  • Riesgos como el sobreajuste y el infraajuste

  Un diagrama de tres elementos: diseño, desarrollo e implementación, con el desarrollo en la parte superior.

Prácticas de IA responsable

Implementación

 

  • Integración en el entorno de producción
  • Inicio del procesamiento de datos reales
  • Supervisión
  • Perfeccionamiento
  • Adaptación

  Un diagrama de tres elementos: diseño, desarrollo e implementación, con la implementación en la parte superior

Prácticas de IA responsable

El espectro de los riesgos de la IA

  • Riesgos operativos y de seguridad:

    • Alucinaciones
    • Envenenamiento y corrupción de datos
    • Fuga de datos y brechas de seguridad

  • Riesgos de privacidad

  • Riesgos empresariales:

    1. Respecto a la reputación
    2. Financieros

 

Las pruebas minuciosas, las normas éticas y el cumplimiento legal son fundamentales.

Prácticas de IA responsable

¡Vamos a practicar!

Prácticas de IA responsable

Preparing Video For Download...