Riscos externos em IA
Segurança de IA e gerenciamento de riscos
Angeline Corvaglia
Founder and Digital Transformation Expert
Riscos internos
Dentro do design ou dos dados
Riscos externos
Atores externos
- Manipulam o modelo
- Miram aspectos diferentes
Riscos externos comuns
Ataques de entrada adversária
- Afetam a fase de inferência (com novos dados)
- Influenciam a tomada de decisão
Exemplo
- Alterar levemente a imagem
- Levar à classificação incorreta
Corrupção e envenenamento de dados
- Afetam a fase de treino
- Visam a integridade do aprendizado
Exemplo
- Reviews falsos de produto
- Afetam o sistema de recomendação do e-commerce
Roubo e inversão de modelo
- Miram informações sensíveis
- Exploram o próprio modelo
Exemplo
- Usam entradas manipuladas para revelar dados privados usados no treino
Ataques à infraestrutura
- Miram ambientes físicos e virtuais
- Atacam a infraestrutura
Exemplo
- Saturar servidores de IA com requisições para sobrecarregar e derrubar
Ataques à cadeia de suprimentos
- Comprometer componentes ou bibliotecas
- Explorar os blocos de construção dos modelos de IA
Exemplo
- Injetar vulnerabilidade em biblioteca amplamente usada
Boas práticas de segurança
Mais boas práticas
Riscos evoluem rápido
