Riesgos externos en IA
Seguridad y gestión de riesgos de la IA
Angeline Corvaglia
Founder and Digital Transformation Expert
Riesgos internos
Dentro del diseño o los datos
Riesgos externos
Actores externos
- Manipulan el modelo
- Apuntan a distintos aspectos
Riesgos externos comunes
Ataques de entrada adversarial
- Afectan a la fase de inferencia (cuando ve datos nuevos)
- Influyen en la toma de decisiones
Ejemplo
- Alterar levemente la imagen
- Clasificar mal
Corrupción y envenenamiento de datos
- Afectan a la fase de entrenamiento
- Apuntan a la integridad del aprendizaje
Ejemplo
- Reseñas falsas de productos
- Afectan a un sistema de recomendación de e‑commerce
Robo e inversión de modelos
- Dirigidos a información sensible
- Explotan el modelo en sí
Ejemplo
- Usar entradas manipuladas para destapar datos privados del entrenamiento
Ataques a la infraestructura
- Apuntan a entornos físicos y virtuales
- Atacan la infraestructura
Ejemplo
- Saturar servidores de IA con solicitudes para sobrecargarlos e inutilizarlos
Ataques a la cadena de suministro
- Comprometer componentes o librerías
- Explotar los bloques base de los modelos de IA
Ejemplo
- Inyectar una vulnerabilidad en una librería muy usada
Buenas prácticas de seguridad
Más buenas prácticas
Los riesgos evolucionan rápido
