Beperkingen van ChatGPT

ChatGPT begrijpen

James Chapman

Curriculum Manager, DataCamp

ChatGPT onder de motorkap

Een diagram dat laat zien hoe prompts en reacties zich verhouden tot het grote taalmodel.

Het LLM ontrafeld

Een grote muur van bouwstenen.

Het LLM ontrafeld

Een grote muur van bouwstenen en een muur die nog niet helemaal af is, met een stuk dat in een opening wordt gestopt.

Het LLM ontrafeld

Een muur van bouwstenen.

Het LLM ontrafeld

De bouwstenenmuur is aangeduid als trainingsdata.

Het LLM ontrafeld

Er is een netwerkstructuur ontstaan die de algoritmen laat zien die worden gebruikt om taalpatronen te herkennen.

Het LLM ontrafeld

Er worden tandwielen en gloeilampen getoond, met een cirkel eromheen, wat de herhalende processen laat zien die nodig zijn om het model goed af te stellen.

Het LLM ontrafeld

Een pop die een muur van bouwblokken bouwt om te laten zien wat ChatGPT met tekst doet.

Beperking 1 - Kennisgrens

Getraind op gegevens tot een bepaalde datum:
- GPT 3.5: januari 2022
- GPT 4: april 2023
Weet niet wat er na deze datum gebeurt

Een muur van bouwstenen die op een bepaalde datum stopt.

Beperking 2 - Vooringenomenheid van trainingsgegevens

ChatGPT was gebaseerd op een enorme dataset met tekst, waaronder:
- Boeken
- Artikelen
- Websites
Het model kan vooroordelen uit de trainingsgegevens leren.
Kan de reacties beïnvloeden

Een pictogram dat laat zien hoe een model vooroordelen kan leren van de gegevens die het heeft gezien.

Beperking 3 - Context volgen

Een gesprek tussen de gebruiker en ChatGPT waarbij de context in de loop van de tijd verandert.

Beperking 3 - Context volgen

Een gesprek tussen de gebruiker en ChatGPT waarbij de context in de loop van de tijd verandert.

Beperking 3 - Context volgen

Moeite om de draad te volgen als de aandacht ergens anders naartoe gaat
Kan leiden tot onnauwkeurige of irrelevante resultaten
Tip: Houd gesprekken over één onderwerp

Een gesprek tussen de gebruiker en ChatGPT waarbij de context in de loop van de tijd verandert.

Beperking 4 - Hallucinatie

Model geeft vol vertrouwen onjuiste info
Dit gebeurt vaak als je meer wilt doen dan wat het model weet of kan.

Een voorbeeld van ChatGPT die een LinkedIn-profiel verzint.

¹ https://en.wikipedia.org/wiki/Hallucination_(artificial_intelligence)

Beperking 5 - Juridische en ethische overwegingen

Voorbeeld: Een nummer maken in de stijl van een artiest die al bestaat
- Van wie is dat nieuwe nummer?

Een icoontje van iemand achter zijn laptop.

Beperking 5 - Juridische en ethische overwegingen

Voorbeeld: Een nummer maken in de stijl van een artiest die al bestaat
- Van wie is dat nieuwe nummer?

Een icoontje van een zingende muzikant.

Beperking 5 - Juridische en ethische overwegingen

Voorbeeld: Een nummer maken in de stijl van een artiest die al bestaat
- Van wie is dat nieuwe nummer?

Je komt makkelijk in een juridisch grijs gebied terecht
Eigendom en privacy → Hoofdstuk 2

Een icoon van een technische stakeholder.

Laten we oefenen!

ChatGPT begrijpen