Chaînes et agents

Concepts de LLMOps

Max Knobbout, PhD

Applied Scientist, Uber

Cycle de vie LLM : Chaînes et agents

Des prompts aux applications

• Pour utiliser ce modèle, nous avons besoin de :
  • Exemples
  • Entrée
• Nous suivons quelques étapes :
  1. Réception de l’entrée
  2. Recherche d’exemples
  3. Création de prompt
  4. Récupération de sortie
  5. Analyse de la sortie

Une chaîne utilisant notre modèle

Utilité des chaînes

• Développer des applications sophistiquées
• Mettre en place une conception modulaire, améliorant l’évolutivité et l’efficacité opérationnelle
• Débloquer des possibilités infinies de personnalisation

Agents

• Les agents se composent de :
  • Plusieurs actions (ou outils)
  • Un LLM décidant quelle action entreprendre

• Utile lorsque :
  • De nombreuses actions
  • La séquence optimale des étapes est inconnue
  • Nous ne sommes pas certains des entrées

Agents

Agents

Agents

La différence entre les chaînes et les agents

	Chaînes 🔗	Agents 🤖
Nature	Déterministe	Adaptatif
Complexité	Faible	Élevée
Flexibilité	Faible	Élevée
Risque	Faible (prévisibilité)	Élevé (adaptabilité)

Le cycle de développement

Le cycle de développement

Le cycle de développement

Passons à la pratique !

Concepts de LLMOps