Avaliação de riscos de IA

Estratégia de inteligência artificial (IA)

Vidhi Chugh

AI strategist and ethicist

Guardrails éticos

 

• UNESCO
  • Precisamos de guardrails
  • Prevenir riscos como viés e discriminação
  • Direitos humanos fundamentais

 

¹ https://www.unesco.org/en/artificial-intelligence/recommendation-ethics

Riscos de IA

 

• National Institute of Standards and Technology (NIST)

  

 

• Probabilidade de ocorrência
• Grau das consequências

¹ https://www.nist.gov/artificial-intelligence

Riscos de dados

• Privacidade de dados
  • Informações sensíveis

• Viés nos dados
  • Perpetua vieses sociais  

Quando a IA dá errado

 

• Viés de gênero

 

• Discriminação racial

Violação de privacidade de dados

• Multa pesada por não cumprir a GDPR
• Tratamento ilegal de dados
• Imagens raspadas para reconhecimento facial

 

Impactos no negócio

Jurídico

Impactos no negócio

Jurídico, reputacional

Impactos no negócio

Danos jurídicos, reputacionais e financeiros.

Frameworks éticos

Frameworks éticos

Frameworks éticos

Pilares da avaliação de risco

                Privacidade

                Equidade

             Transparência

             Responsabilização

Regulação e compliance

• Ciclo de vida do projeto de IA

• Regulação e compliance
  • Responsabilização exige governança
  • Defina papéis e responsabilidades
  • Conformidade com leis de privacidade de dados
  • Busque consentimento e anonimize dados

Coleta e preparação de dados

Avaliar

• Disponível internamente ou comprar externamente?
• Informações sensíveis como PII (dados pessoais)?
• População bem representada?

Mitigar

• Processos para integridade dos dados
• Criptografia de identificadores, dados sintéticos
• Criar dados balanceados

Desenvolvimento e avaliação do modelo

• Explique os resultados do modelo
  • Explicação e identificação de viés
  • Tratamento justo entre categorias

Implantação e monitoramento do modelo

 

• Grau de impacto

• Definir estratégias de mitigação

 

 

• Custo é alto em saúde e finanças

• Realinhar o comportamento do modelo

 

Vamos praticar!

Estratégia de inteligência artificial (IA)