Aplicações responsáveis da IA generativa

Conceitos de IA Generativa

Daniel Tedesco

Data Lead, Google

Na véspera das eleições

Coleção de notícias falsas

Conceitos de IA Generativa

Tipos de uso mal-intencionado

  • Deepfakes
  • Campanhas de desinformação
  • Ataques hackers com inteligência artificial

Imagem do papa usando um casaco de inverno gerada por IA

1 Pablo Xavier
Conceitos de IA Generativa

Detecção e prevenção

Princípios fundamentais de utilização

  • Intervenção humana (human-in-the-loop)
  • Prevenção de danos
  • Monitoramento contínuo

 

Pontos de detecção e prevenção

Fluxograma dos pontos durante o uso da IA: acesso, prompts, respostas, aplicação, comunicação e feedback.

Conceitos de IA Generativa

Acesso

A IA pode, sem querer, ajudar grupos criminosos em atividades que não são ilegais.

  • Evite apoiar grupos mal-intencionados
  • Conheça seu cliente (KYC, Know Your Customer)
    • Verifique a identidade dos usuários

Personagem com aparência sinistra pedindo silêncio para quem está olhando.

Conceitos de IA Generativa

Prompts e respostas

Moderação de prompts

  • Parecido com a moderação de sites ou chats
  • Os prompts de jailbreak ainda podem burlar as diretrizes dos desenvolvedores

Moderação de respostas

  • Filtrar respostas antes de mostrá-las ao usuário
Conceitos de IA Generativa

Aplicações

Pessoas mal-intencionadas podem usar respostas inofensivas para atividades ilegais ou antiéticas.

  • Marcas d’água invisíveis ajudam a identificar a origem do conteúdo
  • Pode ser necessária intervenção para aplicação da lei
Conceitos de IA Generativa

Comunicação e feedback

  • Diretrizes de uso claras
  • Ciclos de feedback
    • Estudos com usuários e mesas-redondas com as partes interessadas
    • Parcerias com organizações da sociedade civil
    • Oportunidades de feedback no produto

Motorista colocando o cinto de segurança

Conceitos de IA Generativa

Vamos praticar!

Conceitos de IA Generativa

Preparing Video For Download...