Riscos de segurança específicos de IA

Segurança de IA e gerenciamento de riscos

Angeline Corvaglia

Founder and Digital Transformation Specialist

A importância da gestão de riscos

• Aproveitar os benefícios com segurança e responsabilidade
• A abordagem de segurança precisa mudar
• Estratégias tradicionais não bastam

Pense nos impactos de integrar IA como uma moeda:

• Potencial
• Riscos de segurança

Riscos sutis, porém perigosos

• Viés
• Alucinação
• Envenenamento de dados
• Ataques adversariais
• Exposição de dados sensíveis

Viés de IA em recrutamento

1. Treinar a IA com dados históricos
2. Reflete vieses passados
3. Amplia o viés
4. Queda de confiança na organização

Manipulando uma plataforma de e-commerce

1. Plataforma com sistema de recomendação por IA
2. Dados falsos inseridos
3. IA recomenda produtos impopulares ou nocivos
4. Diversas possíveis consequências

Viés em IA

Decisões ultrarrápidas amplificam o impacto do viés

Favorecem ou prejudicam injustamente

Resultados desiguais em alta velocidade

Alucinação

• Apresenta informações incorretas ou enganosas como verdade

Pode levar a:

• Decisões falhas
• Desinformação e perda de confiança

Envenenamento de dados

Manipulação intencional dos dados de treino

Faz o sistema de IA sair do rumo

• Previsões ou decisões incorretas
• Consequências significativas

Ataques adversariais

Apresentar entradas enganosas

• Durante a operação
• Difícil de detectar
• Compromete a integridade

Exposição de dados sensíveis

Grandes volumes de dados para treino e operação.

Risco de exposição de dados sensíveis se não houver segurança adequada

Entenda os riscos para poder gerenciá-los

Mitigação proativa de riscos

• Antecipar riscos
• Conhecer o ecossistema de segurança em IA
• Preparar a segurança de IA para o futuro
• Criar cultura de segurança
• Entender riscos do modelo e externos
• Alinhar a segurança de IA aos objetivos da organização

Vamos lá!

Segurança de IA e gerenciamento de riscos