Limites e restrições da IA

Introdução à IA no Trabalho

James Chapman

AI Curriculum Manager, DataCamp

Risco n.º 1: geração de conhecimentos falsos

 

  • Ou alucinação: informação errada apresentada pela IA como se estivesse certa
  • Exemplos comuns:
    • Estatísticas incorretas
    • Citações falsas
    • Alucinação de eventos

hallucination1.jpg

Introdução à IA no Trabalho

Risco n.º 1: geração de conhecimentos falsos

 

  • Ou alucinação: informação errada apresentada pela IA como se estivesse certa
  • Exemplos comuns:
    • Estatísticas incorretas
    • Citações falsas
    • Alucinação de eventos

hallucination2.jpg

Introdução à IA no Trabalho

Risco n.º 1: geração de conhecimentos falsos

hallucination3.jpg

Introdução à IA no Trabalho

Risco n.º 2: desconhecimento da atualidade

 

  • Data limite de conhecimento (knowledge cutoff) → até quando o modelo tem conhecimento de eventos

  • Exemplos:

    • Regulações, preços, locais e sintaxe de programação desatualizados

  • Confirme fatos sensíveis ao tempo usando fontes atuais

  • Muitas ferramentas de IA também oferecem pesquisa na internet

recency.png

Introdução à IA no Trabalho

Risco n.º 3: resultados enviesados

biased.png

 

  • Refletem e aumentam vieses sociais dos dados de treinamento
  • Resultado → conteúdo estereotipado ou discriminatório
  • Revise com cuidado o conteúdo gerado pela IA!
Introdução à IA no Trabalho

Risco n.º 4: resultados bajuladores

 

  • Bajulação → dizer o que acha que você quer ouvir

    • Validar perspectivas, apoiar decisões e confirmar o raciocínio

  • Problemático quando é necessária uma visão crítica

sycophancy.png

Introdução à IA no Trabalho

Risco n.º 4: resultados bajuladores

 

  • Bajulação → dizer o que acha que você quer ouvir

    • Validar perspectivas, apoiar decisões e reforçar o raciocínio

  • Problemático quando é necessária uma visão crítica

  • Subproduto de como os LLMs são treinados com base em avaliações humanas das respostas

 

sycophany_research.png

1 https://arxiv.org/abs/2510.01395
Introdução à IA no Trabalho

Risco n.º 5: exposição de dados e privacidade

privacy.png

 

  • As informações compartilhadas com ferramentas de IA podem não permanecer privadas!
  • Carregar planilhas, documentos ou dados de clientes pode ser arriscado
  • Os dados podem ser armazenados em servidores externos, usados para treinar modelos ou pesquisados
Introdução à IA no Trabalho

Risco n.º 5: exposição de dados e privacidade

crying.png

 

Riscos

  • Violar leis de privacidade (ex.: RGPD)
  • Perder vantagem competitiva
  • Abalar a confiança de clientes

 

  • Sempre confira a política de dados da ferramenta de IA
  • Se houver dúvidas: consulte um especialista em TI ou segurança da informação
Introdução à IA no Trabalho

Do risco à responsabilidade

risks_summary_v2.png

 

car.png

Introdução à IA no Trabalho

Vamos praticar!

Introdução à IA no Trabalho

Preparing Video For Download...