Riesgos de seguridad específicos de la IA

Seguridad y gestión de riesgos de la IA

Angeline Corvaglia

Founder and Digital Transformation Specialist

La importancia de la gestión de riesgos

• Aprovecha los beneficios de forma segura y responsable
• El enfoque de seguridad debe cambiar
• Las estrategias de seguridad tradicionales no bastan

Piensa en los impactos de integrar IA como una moneda:

• Potencial
• Riesgos de seguridad

Riesgos sutiles pero peligrosos

• Sesgo
• Alucinación
• Envenenamiento de datos
• Ataques adversarios
• Exposición de datos sensibles

Sesgo de IA en contratación

1. Entrenar la IA con datos históricos
2. Reflejar sesgos pasados
3. Aumentar el sesgo
4. Menor confianza en la organización

Manipular una plataforma de compras online

1. Plataforma con recomendador de IA
2. Se inyectan datos falsos
3. La IA sugiere productos impopulares o dañinos
4. Numerosas posibles consecuencias

Sesgo en IA

Decisiones ultrarrápidas amplifican el sesgo

Favorecen o dañan injustamente

Resultados desiguales a gran velocidad

Alucinación

• Presenta información incorrecta o engañosa como verdad

Puede provocar:

• Decisiones erróneas
• Desinformación y falta de confianza

Envenenamiento de datos

Manipulación intencional de datos de entrenamiento

Provoca que la IA se desvíe

• Predicciones o decisiones incorrectas
• Consecuencias significativas

Ataques adversarios

Aportar entradas engañosas

• Durante la operación
• Difícil de detectar
• Compromete la integridad

Exposición de datos sensibles

Grandes volúmenes de datos para entrenar y operar.

Riesgo de exponer datos sensibles si no se asegura bien

Entiende los riesgos para poder gestionarlos

Mitigación proactiva de riesgos

• Anticipa riesgos
• Conoce el ecosistema de seguridad de IA
• Prepara la seguridad de IA para el futuro
• Crea una cultura consciente de seguridad
• Entiende riesgos del modelo y externos
• Alinea la seguridad de IA con los objetivos

¡Vamos allá!

Seguridad y gestión de riesgos de la IA