Modelos GPT e treino de LLMs

ChatGPT Intermediário

Alex Banks

Founder & Educator

A gênese do GPT

A imagem mostra um homem surpreso à esquerda, olhando para três barras roxas crescentes rotuladas GPT-1, GPT-2 e GPT-3 da esquerda para a direita, representando o aumento de tamanho de cada versão

A gênese do GPT

Uma ilustração mostra um homem em pé olhando para uma forma oval, representando um neurônio

Decompondo GPT

Uma ilustração mostra um homem confuso com um ponto de interrogação acima da cabeça. À direita, o texto 'Generative Pre-trained Transformer' aparece, com uma seta apontando para 'GPT' em negrito e sublinhado

Uma ilustração mostra um homem escrevendo em um caderno com um lápis. À esquerda, a palavra 'Generative'

Ilustração de um homem correndo com livros e dispositivos eletrônicos atrás dele, com a palavra 'Pre-trained' à direita

Ilustração de um homem se transformando de um estado para outro, com a palavra 'Transformer' acima dele

Ilustração de um homem sentado com um laptop, ao lado do logo do ChatGPT

Como treinamos LLMs?

Ilustração de uma mulher lendo um livro ao lado de um grande robô; ambos olham para o livro

Etapa 1 - Pré-treino

Grandes quantidades de dados da internet, de baixa qualidade Ilustração de uma mulher com uma prancheta, com gráfico e tabela do pré-treino e dados de modelos GPT

Etapa 2 - Fine-tuning

Pequenas quantidades de dados conversacionais, de alta qualidade Ilustração de uma mulher ao lado de um robô e exemplos de conversas

Etapa 3 - RLHF

RLHF = Reinforcement Learning from Human Feedback

Ilustração de duas mulheres segurando cartões com ponto de interrogação, com balões de pensamento dizendo 'Opção A' e 'Opção B'

O papel da IA na criação de rótulos de comparação

Ilustração de uma mulher fazendo joinha ao lado de um robô, com três haicais sobre IA em telas. A mulher e o robô pensam: 'Este!'

O papel da IA na criação de rótulos de comparação

A rotulagem é uma colaboração humano-máquina

Ilustração mostrando um ícone de pessoa e um de robô ligados por um controle deslizante, com uma mulher e um grande robô ao lado em harmonia

Vamos praticar!

ChatGPT Intermediário