Cadeias e agentes

Conceitos de LLMOps

Max Knobbout, PhD

Applied Scientist, Uber

Ciclo de vida de LLM: cadeias e agentes

De prompts a aplicações

 

• Para usar este modelo, precisamos de:
  • Exemplos
  • Input
• Passos:
  1. Receber o input
  2. Buscar exemplos
  3. Criar o prompt
  4. Obter o output
  5. Fazer o parsing do output

Uma cadeia usando nosso modelo

 

A necessidade de cadeias

 

 

 

• Criar apps sofisticados
• Adotar design modular, com mais escala e eficiência
• Abrir espaço para personalização

Agentes

 

 

 

• Agentes são compostos por:
  • Múltiplas ações (ou ferramentas)
  • Um LLM que decide qual ação executar

 

• Úteis quando:
  • Há muitas ações
  • A sequência ideal de passos é desconhecida
  • Há incerteza nos inputs

Agentes

Agentes

Agentes

A diferença entre cadeias e agentes

 

 

	Cadeias 🔗	Agentes 🤖
Natureza	Determinística	Adaptativa
Complexidade	Baixa	Alta
Flexibilidade	Baixa	Alta
Risco	Menor (pela previsibilidade)	Maior (pela adaptabilidade)

O ciclo de desenvolvimento

O ciclo de desenvolvimento

O ciclo de desenvolvimento

Vamos praticar!

Conceitos de LLMOps