GPT-modellen en LLM's trainen

ChatGPT voor gevorderden

Alex Banks

Founder & Educator

Het ontstaan van GPT

De afbeelding toont links een verbaasde man die kijkt naar drie paarse balken van toenemende grootte met links naar rechts de labels GPT-1, GPT-2 en GPT-3, die de groei in omvang per versie weergeven

Het ontstaan van GPT

Een illustratie toont een man die kijkt naar een ovale vorm, die een neuron voorstelt

GPT uitgelegd

Een illustratie toont een verwarde man met een vraagteken boven zijn hoofd. Rechts van hem staat de tekst 'Generative Pre-trained Transformer', met een pijl naar 'GPT' in vet en onderstreept

Een illustratie toont een man die met een potlood in een notitieboek schrijft. Links van hem staat het woord 'Generative'

Illustratie van een man die rent met boeken en elektronische apparaten achter zich aan, met rechts het woord 'Pre-trained'

Illustratie van een man die van de ene staat naar de andere transformeert, met het woord 'Transformer' erboven

Illustratie van een man met een laptop, naast het ChatGPT-logo

Hoe trainen we LLM's?

Illustratie van een vrouw die een boek leest naast een grote robot; beiden kijken naar het boek

Stap 1 - Pre-training

Grote hoeveelheden internetdata van lage kwaliteit Illustratie van een vrouw met een clipboard, met een grafiek en een tabel over het pre-trainingsproces en data van GPT-modellen

Stap 2 - Fine-tuning

Kleine hoeveelheden gespreksdata van hoge kwaliteit Illustratie van een vrouw naast een robot, met voorbeeldgespreksdata

Stap 3 - RLHF

RLHF = Reinforcement Learning from Human Feedback

Illustratie van twee vrouwen met kaartjes met vraagtekens; in gedachtenwolken boven hen staan 'Option A' en 'Option B'

De rol van AI bij het maken van vergelijkingslabels

Illustratie van een vrouw die een duim omhoog steekt naast een robot, met drie haiku's over AI op schermen. De vrouw en de robot hebben allebei een gedachtenwolk met 'This one!

De rol van AI bij het maken van vergelijkingslabels

Labelen is samenwerking tussen mens en machine

Illustratie met een persoon-icoon en een robot-icoon verbonden door een schuifregelaar, met daarnaast een vrouw en een grote robot in harmonie

Laten we oefenen!

ChatGPT voor gevorderden