Modele GPT i trenowanie LLM

ChatGPT średnio zaawansowany

Alex Banks

Founder & Educator

Geneza GPT

Zdziwiony mężczyzna po lewej stronie patrzy na trzy fioletowe słupki rosnącej wielkości, oznaczone GPT-1, GPT-2 i GPT-3, reprezentujące wzrost rozmiaru kolejnych wersji

Geneza GPT

Ilustracja przedstawiająca mężczyznę stojącego i patrzącego na owalny kształt symbolizujący neuron

Breaking down GPT

Ilustracja przedstawiająca zdezorientowanego mężczyznę ze znakiem zapytania nad głową. Po jego prawej stronie widnieje tekst „Generative Pre-trained Transformer" ze strzałką wskazującą na pogrubione i podkreślone „GPT"

Ilustracja przedstawiająca mężczyznę piszącego w notesie ołówkiem. Po jego lewej stronie widnieje słowo „Generative"

Ilustracja przedstawiająca biegnącego mężczyznę z książkami i urządzeniami elektronicznymi za nim oraz słowem „Pre-trained" po prawej stronie

Ilustracja przedstawiająca mężczyznę przemieniającego się z jednego stanu w drugi, ze słowem „Transformer" powyżej

Ilustracja przedstawiająca mężczyznę siedzącego z laptopem, obok logo ChatGPT

Jak trenowane są LLM?

Ilustracja przedstawiająca kobietę czytającą książkę obok dużego robota – oboje patrzą na książkę

Krok 1 – Pre-trenowanie

Duże ilości danych internetowych niskiej jakości Ilustracja przedstawiająca kobietę trzymającą schowek z wykresem i tabelą opisującą proces pre-trenowania i dane modeli GPT

Krok 2 – Dostrajanie

Małe ilości konwersacyjnych danych wysokiej jakości Ilustracja przedstawiająca kobietę stojącą obok robota oraz przykładowe dane konwersacyjne

Krok 3 – RLHF

RLHF = Reinforcement Learning from Human Feedback

Ilustracja przedstawiająca dwie kobiety trzymające karty ze znakiem zapytania, z dymkami „Opcja A" i „Opcja B" nad głowami

Rola AI w tworzeniu etykiet porównawczych

Ilustracja przedstawiająca kobietę pokazującą kciuk w górę obok robota oraz trzy haiku o AI wyświetlone na ekranach. Kobieta i robot mają dymki z napisem „To!"

Rola AI w tworzeniu etykiet porównawczych

Etykietowanie to współpraca człowieka z maszyną

Ilustracja przedstawiająca ikonę osoby i robota połączonych suwakiem, obok harmonijnie stojąca kobieta i duży robot

Let's practice!

ChatGPT średnio zaawansowany