GPT-modellen en het trainen van LLM's

ChatGPT voor gevorderden

Alex Banks

Founder & Educator

Het ontstaan van GPT

De afbeelding toont links een verraste man die kijkt naar drie paarse balken van toenemende grootte, gelabeld GPT-1, GPT-2 en GPT-3 van links naar rechts, wat de groei in omvang weergeeft

Het ontstaan van GPT

Een illustratie toont een man die naar een ovale vorm kijkt, een neuron voorstellend

GPT ontleed

Een illustratie toont een verwarde man met een vraagteken boven zijn hoofd. Rechts staat 'Generative Pre-trained Transformer', met een pijl naar 'GPT' in vet en onderstreept

Een illustratie toont een man die met potlood in een notitieboek schrijft. Links staat het woord 'Generative'

Illustratie van een man die rent met boeken en apparaten achter zich aan, met rechts het woord 'Pre-trained'

Illustratie van een man die van de ene staat naar de andere transformeert, met het woord 'Transformer' erboven

Illustratie van een man met een laptop, naast het ChatGPT-logo

Hoe trainen we LLM's?

Illustratie van een vrouw die een boek leest naast een grote robot; beiden kijken in het boek

Stap 1 - Pretraining

Grote hoeveelheden lage-kwaliteit internetdata Illustratie van een vrouw met een clipboard, met een grafiek en tabel over pretraining en data van GPT-modellen

Stap 2 - Fine-tuning

Kleine hoeveelheden hoogwaardige conversatiedata Illustratie van een vrouw naast een robot, met voorbeeldgesprekken

Stap 3 - RLHF

RLHF = Reinforcement Learning from Human Feedback

Illustratie van twee vrouwen met kaartjes met vraagtekens, met denkballonnen 'Optie A' en 'Optie B' boven hun hoofd

De rol van AI bij vergelijkingslabels

Illustratie van een vrouw die een duim omhoog geeft naast een robot, met drie haiku's over AI op schermen. Beiden hebben een denkballon met 'Deze!'

De rol van AI bij vergelijkingslabels

Labelen is mens-machine samenwerking

Illustratie met een persoonpictogram en een robotpictogram verbonden door een slider, met een vrouw en een grote robot ernaast in harmonie

Laten we oefenen!

ChatGPT voor gevorderden