Riesgos del modelo
Seguridad y gestión de riesgos de la IA
Angeline Corvaglia
Founder and Digital Transformation Expert
Vigilar riesgos en todo el ciclo de vida
Durante el desarrollo
- Datos justos y precisos
- Aprendizaje eficaz
- Riesgos de desplegar un sistema defectuoso
Tras el despliegue
- Los modelos pueden cambiar (derivar) con el tiempo
- Generar salidas sesgadas o inexactas
Siete riesgos comunes del modelo
Transparencia
- Cómo los modelos de IA toman decisiones
Interpretabilidad
- Por qué un modelo genera ciertos resultados
En áreas sensibles como salud o finanzas
- El proceso de decisión
- Tan importante como la decisión en sí
Sesgo
Alucinación
Deriva del modelo
Aprendizaje eficaz y preciso
Sobreajuste
- Aprende demasiados detalles
Subajuste
- Demasiado simple para aprender
Fuga de datos
- Se incluye información externa en el entrenamiento
IA explicable (XAI)
Sistemas de IA más robustos, justos y seguros
- Medidas de seguridad
- Desarrollo responsable
- Impacto a largo plazo
Debe ser beneficiosa para todos
