Modelli GPT e training degli LLM

ChatGPT intermedio

Alex Banks

Founder & Educator

Le origini di GPT

L'immagine mostra un uomo sorpreso a sinistra, che guarda tre barre viola crescenti etichettate GPT-1, GPT-2 e GPT-3 da sinistra a destra, a rappresentare la crescita di ogni versione

Le origini di GPT

Un'illustrazione mostra un uomo in piedi che guarda verso una forma ovale, che rappresenta un neurone

Scomporre GPT

Un'illustrazione mostra un uomo confuso con un punto interrogativo sopra la testa. A destra, il testo 'Generative Pre-trained Transformer', con una freccia che punta a 'GPT' in grassetto e sottolineato

Un'illustrazione mostra un uomo che scrive su un taccuino con una matita. A sinistra, la parola 'Generative'

Illustrazione di un uomo che corre con libri e dispositivi elettronici dietro di lui, con la parola 'Pre-trained' a destra

Illustrazione di un uomo che si trasforma da uno stato a un altro, con la scritta 'Transformer' sopra

Illustrazione di un uomo al laptop, accanto al logo di ChatGPT

Come alleniamo gli LLM?

Illustrazione di una donna che legge un libro accanto a un grande robot; entrambi guardano il libro

Step 1 - Pre-training

Grandi quantità di dati web di bassa qualità Illustrazione di una donna con una clipboard, con un grafico e una tabella sul pre-training e i dati dei modelli GPT

Step 2 - Fine-tuning

Poche quantità di dati conversazionali di alta qualità Illustrazione di una donna accanto a un robot e a esempi di conversazioni

Step 3 - RLHF

RLHF = Reinforcement Learning from Human Feedback

Illustrazione di due donne con cartoncini con punto interrogativo, con nei fumetti sopra le teste 'Opzione A' e 'Opzione B'

Il ruolo dell'IA nel creare etichette di confronto

Illustrazione di una donna con pollice in su accanto a un robot, con tre haiku sull'IA su degli schermi. La donna e il robot hanno entrambi un fumetto con scritto 'Questo!'

Il ruolo dell'IA nel creare etichette di confronto

L'etichettatura è una collaborazione uomo-macchina

Illustrazione con un'icona persona e un'icona robot collegate da uno slider, con una donna e un grande robot accanto in armonia

Passiamo alla pratica!

ChatGPT intermedio