Nouveauté des LLMs

Concepts sur les grands modèles de langage (LLM)

Vidhi Chugh

AI strategist and ethicist

Exploiter les données textuelles

Une image montrant l'analyse de sentiments, la détection de pourriel et les assistants numériques

  • Données non structurées : brouillonnes et incohérentes
1 Freepik
Concepts sur les grands modèles de langage (LLM)

Les machines ne comprennent pas la langue !

Une image montrant l'incapacité d'un ordinateur à interpréter la langue telle quelle

1 Freepik
Concepts sur les grands modèles de langage (LLM)

Besoin du TAL

 

Une image montrant le TAL comme pont entre le texte et les nombres, compris par l'ordinateur

1 Freepik
Concepts sur les grands modèles de langage (LLM)

Capacités uniques des LLMs

 

  • Subtilités linguistiques
    • Ironie
    • Humour
    • Jeux de mots
    • Sarcasme
    • Intonation
    • Intention

Une personne debout avec une tablette pointant du texte générique et un gros point d'interrogation

1 Freepik
Concepts sur les grands modèles de langage (LLM)

Quel est votre livre préféré ?

 

  • Réponse naturelle : « Oh, ce n'est pas facile ! »

 

  • Opinion personnelle : « Mon livre préféré de tous les temps est Ne tirez pas sur l'oiseau moqueur, de Harper Lee. »

 

  • Énoncé justificatif : « C'est une histoire forte sur les préjugés, la justice et l'expérience humaine. »

 

  • Question de relance : « L'avez-vous lu ? »
Concepts sur les grands modèles de langage (LLM)

Subtilités linguistiques

Sarcasme : « Génial, une autre réunion. »

Modèle linguistique traditionnel :

  • Réponse : « De quoi s'agit-il ? »
    • Neutre
    • Ne capte pas le sarcasme

 

Grand modèle linguistique :

  • Réponse : « On dirait que vous avez hâte ! »
    • Enjoué
    • Stimulant
    • Reflète le sarcasme
Concepts sur les grands modèles de langage (LLM)

Comment les LLMs comprennent-ils

 

  • Entraînés sur d'énormes volumes de données

  • Taille des LLMs : paramètres

  • Les paramètres représentent des patrons et des règles

  • Plus de paramètres → patrons plus complexes

  • Génèrent des réponses fines et précises

Concepts sur les grands modèles de langage (LLM)

Paramètres

 

  • Peu de briques → structures limitées

Une image montrant un petit nombre de blocs

 

  • Plus de briques → structures complexes et détaillées

Une image montrant un grand nombre de blocs

Concepts sur les grands modèles de langage (LLM)

Émergence de nouvelles capacités

 

  • Capacités émergentes
    • présentes seulement dans les modèles à grande échelle

 

  • Échelle :

    • Volume de données d'entraînement
    • Nombre de paramètres du modèle

 

Graphique montrant une amélioration soudaine des performances quand l'échelle du modèle dépasse un seuil de transition

Concepts sur les grands modèles de langage (LLM)

Émergence de nouvelles capacités

 

Une image montrant de nouvelles capacités comme la musique, la poésie, la génération de code, le diagnostic médical et les plans de traitement

Concepts sur les grands modèles de langage (LLM)

Blocs de construction des LLMs

Blocs de construction des LLMs

Concepts sur les grands modèles de langage (LLM)

En résumé

LLMs :

  • Surmontent le caractère non structuré des données

 

  • Dépassent les modèles traditionnels

 

  • Saisissent les subtilités linguistiques

Comment ?

  • « Grandeur » des LLMs
  • Données d'entraînement étendues
  • Beaucoup de paramètres
  • Capacités émergentes
Concepts sur les grands modèles de langage (LLM)

Passons à la pratique !

Concepts sur les grands modèles de langage (LLM)

Preparing Video For Download...