Chaînes et agents

Concepts de LLMOps

Max Knobbout, PhD

Applied Scientist, Uber

Cycle de vie d'un LLM : chaînes et agents

Vue d'ensemble des phases du cycle de vie d'une application LLM

Gabarit d'invite pour classifier les calories d'un plat

Application LLM utilisant une chaîne qui récupère des plats similaires d'une base de données

Image ludique d'un personnage chevauchant une souris robot

Un agent comprend :
- Plusieurs actions (ou outils)
- Un LLM qui choisit l'action à exécuter

Utile lorsque :
- Il y a de nombreuses actions
- La séquence optimale est inconnue
- Les entrées sont incertaines

Architecture d'agent avec deux actions

Architecture d'agent avec deux actions

Architecture d'agent avec deux actions

Cycle de développement où l'activité d'ingénierie d'invite a été ajoutée

Cycle de développement avec chaîne et agents.

Cycle de développement où l'on a ajouté la création de chaînes et d'agents

Concepts de LLMOps