Prompt engineering

Concepts de LLMOps

Max Knobbout, PhD

Applied Scientist, Uber

Cycle de vie LLM : Prompt engineering

Aperçu des phases du cycle de vie d'une application LLM

Concepts de LLMOps

Le cycle de développement

Un aperçu initial du cycle de développement, qui sera affiné au cours de ce chapitre

Concepts de LLMOps

Pourquoi l'ingénierie des prompts est-elle importante ?

Un dessin animé expliquant les prompts

  • Améliorer les performances
  • Contrôler le résultat
  • Éviter les biais et les hallucinations
Concepts de LLMOps

Éléments d'un prompt

  1. Instruction
  2. Exemples/Contexte
  3. Données d’entrée
  4. Indicateur de résultat

Exemple d’un prompt affichant une instruction, des exemples, une entrée et une sortie

Concepts de LLMOps

Trouver le prompt idéal

Image de deux personnages de dessin animé jouant sur une aire de jeux

Expérimenter avec :

  • Paramètres LLM, tels que temperature ou max tokens
  • Apprentissage en contexte et autres modèles conception prompt

Utiliser un espace de test pour expérimenter !

Concepts de LLMOps

Gestion du prompt

Un personnage de dessin animé classe des prompt dans une boîte d’archives

  • Essentiel pour efficacité, reproductibilité et collaboration
  • Important de suivre :
    • Prompt
    • Résultat
    • Modèle et paramètres
  • Utiliser le gestionnaire de prompt ou le contrôle de version
  • Commencer à générer une collection de bons couples entrée-sortie pour l’évaluation
Concepts de LLMOps

Modèles de prompts réutilisables

Image d’un prompt à gauche, et d’un modèle de prompt à droite, mettant en évidence la différence entre les deux

Concepts de LLMOps

Le cycle de développement

Un aperçu initial du cycle de développement, qui sera affiné au cours de ce chapitre

Concepts de LLMOps

Le cycle de développement

Cycle de développement incluant l’activité de prompt engineering

Concepts de LLMOps

Passons à la pratique !

Concepts de LLMOps

Preparing Video For Download...