Tokenisation et Transformers

ChatGPT intermédiaire

Alex Banks

Founder & Educator

Tokenisation

Illustration d'un homme regardant un personnage de type Transformer, imaginant le mot « Tokens »

Tokenisation

Illustration d'un homme ressemblant au personnage du film Terminator

Encodage

Illustration d'un homme ressemblant au personnage du film Terminator

Vectorisation

Illustration d'un homme ressemblant au personnage du film Terminator

Décodage

Illustration d'un homme ressemblant au personnage du film Terminator

Auto‑attention

Personnage robotique façon Transformer à côté d'une balance

Auto‑attention

Illustration d'un chat assis sur un tapis

Liens entre tokens

L'image montre deux robots colorés dans un grand cœur rose avec de petits cœurs autour. Le robot de gauche est étiqueté « it » et celui de droite « the cat ». À gauche du cœur, trois fragments de texte s'affichent verticalement : « the cat », « sat » et « the cat », en bleu

Compréhension contextuelle

Deux robots colorés assis côte à côte, celui de droite fait un geste de la main comme s'il parlait.

Passons à la pratique !

ChatGPT intermédiaire