Modele GPT și antrenarea LLM-urilor

ChatGPT intermediar

Alex Banks

Founder & Educator

Geneza GPT

Imaginea prezintă un bărbat surprins privind trei bare mov de dimensiuni crescătoare, etichetate GPT-1, GPT-2 și GPT-3, reprezentând creșterea dimensiunii fiecărei versiuni

Geneza GPT

O ilustrație cu un bărbat privind o formă ovală, reprezentând un neuron

Descifrarea GPT

Ilustrație cu un bărbat confuz cu un semn de întrebare deasupra. În dreapta, textul „Generative Pre-trained Transformer" cu o săgeată spre „GPT" îngroșat și subliniat

Ilustrație cu un bărbat scriind într-un caiet cu un creion. În stânga, cuvântul „Generative"

Ilustrație cu un bărbat alergând cu cărți și dispozitive electronice în urma sa, cu cuvântul „Pre-trained" în dreapta

Ilustrație cu un bărbat care se transformă dintr-o stare în alta, cu cuvântul „Transformer" deasupra

Ilustrație cu un bărbat la laptop, lângă logo-ul ChatGPT

Cum sunt antrenate LLM-urile?

Ilustrație cu o femeie care citește o carte lângă un robot mare, amândoi privind cartea

Pasul 1 - Pre-antrenare

Date de internet în cantități mari, de calitate scăzută Ilustrație cu o femeie ținând un clipboard, cu un grafic și un tabel despre pre-antrenarea modelelor GPT

Pasul 2 - Fine-tuning

Date conversaționale în cantități mici, de calitate ridicată Ilustrație cu o femeie lângă un robot și exemple de date conversaționale

Pasul 3 - RLHF

RLHF = Reinforcement Learning from Human Feedback

Ilustrație cu două femei ținând cartonașe cu semne de întrebare și bule de gândire cu „Opțiunea A" și „Opțiunea B"

Rolul IA în crearea etichetelor de comparație

Ilustrație cu o femeie care aprobă cu degetul mare lângă un robot, cu trei haiku-uri despre IA afișate pe ecrane. Ambii au bule de gândire cu „Acesta!"

Rolul IA în crearea etichetelor de comparație

Etichetarea este o colaborare om-mașină

Ilustrație cu o pictogramă persoană și una robot conectate printr-un cursor, lângă o femeie și un robot mare, în armonie

Să exersăm!

ChatGPT intermediar