Quando confiar em LLMs

Large Language Models for Business

Iason Prassides

Content Developer, DataCamp

Maximizando o Duolingo

  • Duolingo Max
    • Usa ChatGPT para conversas naturais

Imagem do logo do produto Duolingo Max

1 https://blog.duolingo.com/duolingo-max/
Large Language Models for Business

Maximizando o Duolingo

  • Duolingo Max
    • Usa ChatGPT para conversas naturais
  • Pessoas aprendem idiomas
    • GPT assume diferentes personalidades
    • Dá feedback instantâneo

Imagem mostrando o uso do Duolingo Max em um app de celular

1 https://blog.duolingo.com/duolingo-max/
Large Language Models for Business

Entendendo os LLMs

  • Líderes de negócio precisam entender LLMs de verdade
  • LLMs não são mágicos!
    • Geralmente só preveem a próxima parte da sequência
  • Não entendem linguagem como humanos

Mágico com uma varinha fazendo truques

Large Language Models for Business

Senso comum em LLMs?

Homem segurando um rótulo escrito "senso comum"

  • LLMs não sabem o que é "verdade"
  • Falta senso comum
  • Supervisão humana é crucial em todo uso
  • Confiar só em LLMs pode gerar problemas
Large Language Models for Business

Supervisão no treino

  • LLMs dependem dos dados de treino
  • Viés ou injustiça social podem ser amplificados
    • Revise respostas para achar saídas nocivas

Imagem de moedas empilhadas em alturas diferentes, com peças de jogo coloridas no topo

Large Language Models for Business

Existe viés?

  • LLMs podem treinar com discurso de ódio
    • As respostas também podem ser odiosas
  • Conjuntos de dados com vieses
    • Geram vieses sistêmicos nas saídas
  • Pode perpetuar preconceitos, estereótipos ou desinformação
  • Desenvolvedores criaram medidas de prevenção
  • Empresas devem conhecer e garantir salvaguardas

Imagem mostrando a palavra misinformation

Large Language Models for Business

Flexibilidade e consequências

  • Mesmo prompt -> respostas diferentes
  • Útil para criação; problemático em outros usos
  • Marketing cria descrição de produto com LLMs:
    • Clientes veem descrições diferentes
    • Pode afetar a marca

Homem olhando dois produtos no supermercado que parecem iguais, exceto pela cor da embalagem

Large Language Models for Business

Alerta de segurança!

  • LLMs são complexos, mas podem ser enganados
  • Atacantes inserem prompts maliciosos em sites
    • Podem distorcer as saídas
  • Chamado de injeção de prompt
  • Pode causar dano reputacional

Imagem de um ponto de exclamação vermelho em triângulo indicando alerta de segurança

Large Language Models for Business

O desafio dos LLMs

  • Muitos desafios são específicos do setor
  • Open Worldwide Application Security Project (OWASP)
    • Quantifica desafios
  • Empresas devem conhecer os riscos
  • Entender as particularidades dos LLMs
  • Garantir supervisão humana
  • Investir em treinamento e segurança

Placa de trânsito mostrando um homem pulando um obstáculo com as palavras "Challenges Ahead"

1 https://owasp.org/
Large Language Models for Business

Vamos praticar!

Large Language Models for Business

Preparing Video For Download...