Cadenas y agentes

Conceptos de LLMOps

Max Knobbout, PhD

Applied Scientist, Uber

Ciclo de vida de un LLM: Cadenas y agentes

Resumen de las fases del ciclo de vida de una aplicación LLM

Plantilla de prompt para clasificar calorías de platos

Una aplicación LLM con una cadena que recupera platos similares de la base de datos

Una imagen divertida de una caricatura montando un ratón robot

Un agente incluye:
- Varias acciones (o herramientas)
- Un LLM que decide qué acción tomar

Útiles cuando:
- Hay muchas acciones
- Se desconoce la secuencia óptima de pasos
- Hay incertidumbre sobre las entradas

Una arquitectura de agente con dos acciones

Una arquitectura de agente con dos acciones

Una arquitectura de agente con dos acciones

	Cadenas 🔗	Agentes 🤖
Naturaleza	Determinista	Adaptativa
Complejidad	Baja	Alta
Flexibilidad	Baja	Alta
Riesgo	Menor (por su predictibilidad)	Mayor (por su adaptabilidad)

Ciclo de desarrollo con la actividad de ingeniería de prompts añadida

Ciclo de desarrollo con cadenas y agentes.

Ciclo de desarrollo con la actividad de creación de cadenas y agentes añadida

Conceptos de LLMOps