Inovação dos LLMs

Conceitos de Grandes Modelos de Linguagem (LLMs)

Vidhi Chugh

AI strategist and ethicist

Uso de dados de textos

Imagem mostrando análise de sentimentos, detecção de spam e assistentes digitais

  • Dados não estruturados – confusos e não uniformes
1 Freepik
Conceitos de Grandes Modelos de Linguagem (LLMs)

As máquinas não entendem a linguagem!

Imagem que mostra a incapacidade de um computador de interpretar a linguagem conforme apresentada

1 Freepik
Conceitos de Grandes Modelos de Linguagem (LLMs)

Necessidade do PLN

 

Imagem que mostra o PLN como a ponte entre textos e números, que então são entendidos pelo computador

1 Freepik
Conceitos de Grandes Modelos de Linguagem (LLMs)

Habilidades exclusivas dos LLMs

 

  • Sutilezas linguísticas
    • Ironia
    • Humor
    • Trocadilhos
    • Sarcasmo
    • Entonação
    • Intenção

Pessoa em pé com uma prancheta apontando para um texto genérico e um grande ponto de interrogação

1 Freepik
Conceitos de Grandes Modelos de Linguagem (LLMs)

Qual é o seu livro favorito?

 

  • Resposta natural: “Ah, essa é difícil!”

 

  • Opinião pessoal: “Meu livro preferido é ‘To Kill a Mockingbird’, de Harper Lee.”

 

  • Declaração de apoio: “É uma história forte sobre preconceito, justiça e a experiência humana.”

 

  • Perguntas de acompanhamento: “Você já leu?”
Conceitos de Grandes Modelos de Linguagem (LLMs)

Sutilezas linguísticas

Sarcasmo: “Ah, ótimo, mais uma reunião.”

Modelos tradicionais de linguagem:

  • Resposta: “Qual é o assunto da reunião?”
    • Neutra
    • Não percebe sarcasmo

 

Grande modelo de linguagem:

  • Resposta: “Parece que você mal pode esperar por ela!”
    • Bem-humorada
    • Envolvente
    • Usa o mesmo nível de sarcasmo
Conceitos de Grandes Modelos de Linguagem (LLMs)

Como os LLMs entendem?

 

  • Treinados com uma imensa quantidade de dados

  • Grande tamanho dos LLMs: parâmetros

  • Os parâmetros representam os padrões e regras

  • Mais parâmetros -> padrões complexos

  • Gera respostas sofisticadas e precisas

Conceitos de Grandes Modelos de Linguagem (LLMs)

Parâmetros

 

  • Poucos tijolos -> estruturas limitadas

Imagem mostrando poucos blocos

 

  • Maior número de tijolos -> estruturas complexas e detalhadas

Imagem mostrando muitos blocos

Conceitos de Grandes Modelos de Linguagem (LLMs)

Surgimento de novos recursos

 

  • Novas habilidades
    • presentes apenas em modelos de grande escala

 

  • Escala:

    • Volume de dados de treinamento
    • Número de parâmetros do modelo

 

Gráfico mostrando uma melhora repentina no desempenho do modelo quando a escala do modelo passa de um ponto de transição

Conceitos de Grandes Modelos de Linguagem (LLMs)

Surgimento de novos recursos

 

Imagem mostrando novos recursos, como música, poesia, geração de código, diagnóstico médico e grupos de tratamento

Conceitos de Grandes Modelos de Linguagem (LLMs)

Componentes básicos dos LLMs

Componentes básicos dos LLMs

Conceitos de Grandes Modelos de Linguagem (LLMs)

Recapitulando

LLMs:

  • Conseguem lidar com dados não estruturados

 

  • Superam modelos tradicionais

 

  • Entendem sutilezas linguísticas

Como?

  • Grande tamanho dos LLMs
  • Amplo volume de dados de treinamento
  • Muitos parâmetros
  • Novas habilidades
Conceitos de Grandes Modelos de Linguagem (LLMs)

Vamos praticar!

Conceitos de Grandes Modelos de Linguagem (LLMs)

Preparing Video For Download...