Frameworks de avaliação de risco em IA
Segurança de IA e gerenciamento de riscos
Angeline Corvaglia
Founder and Digital Transformation Expert
Avaliações formais de risco
- O que incluem
- Por que são importantes
- Como orientam os esforços
Combinadas com controles e contrapesos internos contínuos
Quais são os benefícios?
Elementos de uma avaliação de risco
Lei de IA da UE
A avaliação de risco é fundamental
- Risco inaceitável
- Risco alto
- Risco limitado
- Risco mínimo
Para sistemas de IA de alto risco
- Avaliação de risco
- Sistema de gestão de risco
Controles e contrapesos internos
- Capturar riscos emergentes ou comportamentos inesperados
- Definidos com base na avaliação de risco
- Agir como alerta precoce
Exemplos:
- Testes de viés regulares
- Degradação de desempenho
Não é só cumprir tabela
Avaliações de risco dão a rota
Controles e contrapesos internos são as guardiolas
Gestão de risco eficaz
- Vigilância contínua
- Apoiada por controles formais
