Marcos de evaluación de riesgos de IA
Seguridad y gestión de riesgos de la IA
Angeline Corvaglia
Founder and Digital Transformation Expert
Evaluaciones formales de riesgos
- Qué incluyen
- Por qué son importantes
- Cómo pueden guiar el trabajo
Combinado con controles y contrapesos internos continuos
¿Qué beneficios tienen?
Elementos de una evaluación de riesgos
Ley de IA de la UE
La evaluación de riesgos es clave
- Riesgo inaceptable
- Riesgo alto
- Riesgo limitado
- Riesgo mínimo
Para sistemas de IA de alto riesgo
- Evaluación de riesgos
- Sistema de gestión de riesgos
Controles y contrapesos internos
- Detectar riesgos emergentes o comportamientos inesperados
- Definir según la evaluación de riesgos
- Funcionar como alerta temprana
Ejemplos:
- Pruebas de sesgo periódicas
- Degradación del rendimiento
No es solo marcar casillas
Las evaluaciones de riesgos marcan el camino
Los controles y contrapesos internos son las vallas
Gestión de riesgos eficaz
- Vigilancia continua
- Apoyada por controles formales
