Conception d'invites

Concepts de LLMOps

Max Knobbout, PhD

Applied Scientist, Uber

Cycle de vie des LLM : conception d'invites

Aperçu des phases du cycle de vie d'une application LLM

Concepts de LLMOps

Le cycle de développement

Aperçu initial du cycle de développement, qui sera précisé au fil du chapitre

Concepts de LLMOps

Pourquoi la conception d'invites est-elle importante ?

 

Un dessin ludique pour apprendre les invites

 

 

  • Améliorer la performance
  • Mieux contrôler la sortie
  • Réduire les biais et les hallucinations
Concepts de LLMOps

Éléments d'une invite

 

 

  1. Consigne
  2. Exemples / Contexte
  3. Données d'entrée
  4. Indication de sortie

Exemple d'invite avec consigne, exemples, entrée et sortie

Concepts de LLMOps

Trouver l'invite idéale

 

 

Image de deux personnages de dessin animé jouant dans une cour

 

Expérimentez avec :

  • Paramètres du LLM, comme temperature ou max tokens
  • L'apprentissage en contexte et autres gabarits d'invite

 

Utilisez un terrain d'essai pour expérimenter !

Concepts de LLMOps

Gestion des invites

 

 

Personnage ludique classant des invites dans une boîte d'archives

  • Essentiel pour l'efficacité, la reproductibilité et la collaboration
  • À suivre :
    • Invite
    • Sortie
    • Modèle et paramètres
  • Utilisez un gestionnaire d'invites ou le contrôle de versions
  • Commencez à bâtir une collection de bons couples entrée-sortie pour l'évaluation
Concepts de LLMOps

Gabarits d'invites pour la réutilisation

Image d'une invite à gauche et d'un gabarit d'invite à droite, montrant la différence

Concepts de LLMOps

Le cycle de développement

Aperçu initial du cycle de développement, qui sera précisé au fil du chapitre

Concepts de LLMOps

Le cycle de développement

Cycle de développement où l'activité de conception d'invites a été ajoutée

Concepts de LLMOps

Passons à la pratique !

Concepts de LLMOps

Preparing Video For Download...