Modèles GPT et entraînement des LLM

ChatGPT niveau intermédiaire

Alex Banks

Founder & Educator

La genèse de GPT

L'image montre un homme surpris à gauche, observant trois barres violettes de taille croissante, intitulées GPT-1, GPT-2 et GPT-3 de gauche à droite, représentant l'augmentation de taille de chaque version.

La genèse de GPT

Une illustration montre un homme debout regardant vers une forme ovale, représentant un neurone.

Analyse de GPT

Une illustration représente un homme perplexe avec un point d'interrogation au-dessus de sa tête. À sa droite, le texte « Generative Pre-trained Transformer » est affiché, avec une flèche pointant vers « GPT » en gras et souligné

Une illustration montre un homme écrivant dans un cahier avec un crayon. À sa gauche, le mot « Generative » est affiché

Illustration représentant un homme courant avec des livres et des appareils électroniques traînant derrière lui, avec le mot « Pre-trained » à droite

Illustration représentant un homme passant d'un état à un autre, avec le mot « Transformer » au-dessus de lui

Illustration d'un homme assis avec un ordinateur portable, à côté du logo ChatGPT

Comment entraînons-nous les LLM ?

Illustration d'une femme lisant un livre à côté d'un grand robot, tous deux regardant le livre

Étape 1 - Pré-entraînement

De grandes quantités de données Internet de qualité médiocre Illustration d'une femme tenant un bloc-notes, avec un graphique et un tableau détaillant le processus de pré-entraînement et les données des modèles GPT.

Étape 2 - Affinage

Faibles quantités de données conversationnelles de haute qualité Illustration d'une femme à côté d'un robot, accompagnée d'exemples de données de conversation

Étape 3 - RLHF

RLHF = Entraînement par renforcement à partir de rétroactions humaines

Illustration représentant deux femmes tenant des cartes en forme de point d'interrogation, avec des bulles de pensée indiquant « Option A » et « Option B » au-dessus de leurs têtes

Le rôle de l'IA dans la création d'étiquettes comparatives

Illustration représentant une femme levant le pouce à côté d'un robot, avec trois haïkus sur l'IA affichés sur des écrans. La femme et le robot ont chacun une bulle de pensée indiquant « This one! »

Le rôle de l'IA dans la création d'étiquettes comparatives

L'étiquetage est une collaboration entre l'homme et la machine.

Illustration représentant une icône représentant une personne et une icône représentant un robot reliées par un curseur, avec une femme et un grand robot se tenant à côté d'elles en harmonie.

Passons à la pratique !

ChatGPT niveau intermédiaire