Identificação dos riscos da IA

Práticas responsáveis de IA

Esther Montoya van Egerschot

Chief AI Governance @ DigiDiplomacy

Partes interessadas afetadas pela IA

 

  • Indivíduos
  • Grupos
  • Nações
  • Sociedade

Uma imagem de mãos em um círculo nas cores do arco-íris

1 Midjourney
Práticas responsáveis de IA

Design, desenvolvimento e implantação

 

Um ciclo de vida de IA consiste em três fases:

  • Design
  • Desenvolvimento
  • Implantação

 

Um diagrama de três elementos: Projetar, desenvolver, implantar

Práticas responsáveis de IA

Design

 

  • Definir objetivos
  • Seu valor comercial
  • Planejar a arquitetura de dados
  • Calcular impacto orçamentário
  • Verificar o apoio das partes interessadas internas e externas

  Um diagrama de três elementos: Design, Desenvolvimento e Implantação, com o Design no topo

Práticas responsáveis de IA

Desenvolver

 

  • Criar
  • Treinar
  • Testar

 

  • Riscos como sobreajuste e subajuste

  Um diagrama de três elementos: Design, Desenvolvimento e Implantação, com o Desenvolvimento no topo

Práticas responsáveis de IA

Implementar

 

  • Integração ao ambiente de produção
  • Iniciar o processamento de dados
  • Monitorar
  • Refinar
  • Adaptar

  Um diagrama de três elementos: Design, Desenvolvimento e Implantação, com a Implantação no topo

Práticas responsáveis de IA

O espectro de riscos da IA

  • Riscos operacionais e de segurança:

    • Alucinações
    • Envenenamento e corrupção de dados
    • Vazamento de dados e violações

  • Riscos de privacidade

  • Riscos comerciais:

    1. Reputação
    2. Financeiro

 

Testes minuciosos, padrões éticos e conformidade são fundamentais.

Práticas responsáveis de IA

Vamos praticar!

Práticas responsáveis de IA

Preparing Video For Download...