Éléments de base pour entraîner des LLM

Concepts sur les grands modèles de langage (LLM)

Vidhi Chugh

AI strategist and ethicist

Où en sommes-nous ?

Image montrant la progression de l'apprentissage en préentraînement

Concepts sur les grands modèles de langage (LLM)

Préentraînement génératif

 

  • Entraîné par préentraînement génératif

    • Données d'entrée : jetons de texte
    • Entraîné à prédire les jetons du jeu de données

 

  • Types :
    • Prédiction du prochain mot
    • Modélisation de langue masquée
Concepts sur les grands modèles de langage (LLM)

Prédiction du prochain mot

  • Technique d'apprentissage supervisé
    • Modèle entraîné sur des paires entrée–sortie

 

  • Prédit le prochain mot et génère un texte cohérent
  • Capte les dépendances entre les mots

 

  • Données d'entraînement
    • Paires d'exemples d'entrée et de sortie

Saisie semi-automatique par un moteur de recherche

Concepts sur les grands modèles de langage (LLM)

Données d'entraînement pour la prédiction du prochain mot

Entrée

The quick brown

The quick brown fox

The quick brown fox jumps

The quick brown fox jumps over

The quick brown fox jumps over the

The quick brown fox jumps over the lazy

The quick brown fox jumps over the lazy dog.

Sortie

fox

jumps

over

the

lazy

dog

Concepts sur les grands modèles de langage (LLM)

Quel mot est le plus lié à pizza ?

 

  • Plus d'exemples = meilleure prédiction

 

  • Par exemple :
    • I love to eat pizza with _ _ _ _ _ _

 

  • Cheese est plus lié à pizza que les autres mots

Probabilités d'association de différents mots avec le mot « Pizza »

Concepts sur les grands modèles de langage (LLM)

Modélisation de langue masquée

  • Masque un mot précis

  • Le modèle entraîné prédit le mot masqué

 

  • Texte original : "The quick brown fox jumps over the lazy dog."

  • Texte masqué : "The quick [MASK] fox jumps over the lazy dog."

 

  • Objectif : prédire le mot manquant

  • D'après les apprentissages issus des données d'entraînement

Concepts sur les grands modèles de langage (LLM)

Passons à la pratique !

Concepts sur les grands modèles de langage (LLM)

Preparing Video For Download...