Identificación de los riesgos de la IA

Prácticas de IA responsable

Esther Montoya van Egerschot

Chief AI Governance @ DigiDiplomacy

Partes interesadas afectadas por la IA

 

  • Personas
  • Grupos
  • Naciones
  • Sociedad

Imagen de manos en un círculo con los colores del arco iris

1 Midjourney
Prácticas de IA responsable

Diseño, desarrollo e implementación

 

Un ciclo de vida de la IA consta de tres fases:

  • Diseño
  • Desarrollo
  • Implementación

 

Diagrama de tres elementos: Diseño, Desarrollo, Implementación

Prácticas de IA responsable

Diseño

 

  • Definir objetivos
  • Su valor empresarial
  • Planificación de la arquitectura de datos
  • Cálculo del impacto presupuestario
  • Comprobación del apoyo de las partes interesadas internas y externas

  Diagrama de tres elementos: diseño, desarrollo e implementación, con el diseño en la parte superior

Prácticas de IA responsable

Desarrollo

 

  • Construcción
  • Entrenamiento
  • Prueba

 

  • Riesgos como sobreajuste e infraajuste

  Digrama de tres elementos: diseño, desarrollo e implementación, con el desarrollo en la parte superior

Prácticas de IA responsable

Implementación

 

  • Integración en el entorno de producción
  • Inicio del procesamiento de datos en tiempo real
  • Supervisión
  • Perfeccionamiento
  • Adaptación

  Diagrama de tres elementos: diseño, desarrollo e implementación, con la implementación en la parte superior

Prácticas de IA responsable

Los riesgos de la IA

  • Riesgos operativos y de seguridad:

    • Alucinaciones
    • Envenenamiento y corrupción de datos
    • Filtraciones de datos

  • Riesgos de privacidad

  • Riesgos empresariales:

    1. Reputacional
    2. Financiero

 

Las pruebas minuciosas, las normas éticas y el cumplimiento normativo son fundamentales.

Prácticas de IA responsable

¡Vamos a practicar!

Prácticas de IA responsable

Preparing Video For Download...