Les modèles GPT et l'entraînement des LLM

ChatGPT intermédiaire

Alex Banks

Founder & Educator

La genèse de GPT

L'image montre, à gauche, un homme surpris regardant trois barres mauves de taille croissante étiquetées GPT-1, GPT-2 et GPT-3 de gauche à droite, illustrant la croissance de chaque version

La genèse de GPT

Une illustration montre un homme debout regardant une forme ovale représentant un neurone

Décortiquer GPT

Une illustration montre un homme perplexe avec un point d'interrogation au‑dessus de la tête. À sa droite, le texte « Generative Pre-trained Transformer » est affiché, avec une flèche pointant vers « GPT » en gras et souligné

Une illustration montre un homme écrivant au crayon dans un cahier. À sa gauche, le mot « Generative » est affiché

Illustration d'un homme courant avec des livres et des appareils électroniques derrière lui, avec le mot « Pre-trained » à droite

Illustration d'un homme se transformant d'un état à un autre, avec le mot « Transformer » au‑dessus

Illustration d'un homme assis avec un portable, à côté du logo de ChatGPT

Comment entraîner les LLM ?

Illustration d'une femme lisant un livre debout à côté d'un grand robot, tous deux regardant le livre

Étape 1 - Pré‑entraînement

Grandes quantités de données Web de faible qualité Illustration d'une femme tenant une tablette, avec un graphique et un tableau décrivant le pré‑entraînement et les données des modèles GPT

Étape 2 - Ajustement fin

Faibles quantités de données conversationnelles de haute qualité Illustration d'une femme debout à côté d'un robot, et des exemples de données de conversation

Étape 3 - RLHF

RLHF = Reinforcement Learning from Human Feedback

Illustration de deux femmes tenant des cartons avec un point d'interrogation, avec des bulles « Option A » et « Option B » au‑dessus de leurs têtes

Le rôle de l'IA dans la création d'étiquettes de comparaison

Illustration d'une femme faisant un signe de pouce levé à côté d'un robot, avec trois haïkus sur l'IA affichés à l'écran. La femme et le robot ont chacun une bulle disant « Celui‑ci !

Le rôle de l'IA dans la création d'étiquettes de comparaison

L'étiquetage est une collaboration humain‑machine

Illustration montrant une icône de personne et une icône de robot reliées par un curseur, avec une femme et un grand robot à côté en harmonie

Passons à la pratique !

ChatGPT intermédiaire

Les modèles GPT et l'entraînement des LLM

La genèse de GPT

La genèse de GPT

Décortiquer GPT

Comment entraîner les LLM ?

Étape 1 - Pré‑entraînement

Étape 2 - Ajustement fin

Étape 3 - RLHF

Le rôle de l'IA dans la création d'étiquettes de comparaison

Le rôle de l'IA dans la création d'étiquettes de comparaison

Passons à la pratique !

Comment entraîner les LLM ?