Princípios de design para agentes escaláveis

Construindo Sistemas Agentic Escaláveis

Korey Stegared-Pace

Senior AI Cloud Advocate, Microsoft

Escalável ou não escalável?

Escalável ou não escalável?

Escalável ou não escalável?

Escalável ou não escalável?

Os pilares de sistemas agentes escaláveis

Infraestrutura e ferramentas robustas

• Compute: Recursos para executar código

 

• Storage: Armazenar estados, logs e histórico

Infraestrutura e ferramentas robustas

Pipelines de deploy confiáveis

Ferramentas de agentes consolidadas

Modularidade

Projetar sistemas como componentes independentes que formam um todo maior

• Permite design, desenvolvimento e manutenção independentes

Modularidade

Projetar sistemas como componentes independentes que formam um todo maior

• Permite design, desenvolvimento e manutenção independentes

Modularidade

Projetar sistemas como componentes independentes que formam um todo maior

• Permite design, desenvolvimento e manutenção independentes

Modularidade em agentes: Modularidade de software

Modularidade em agentes: Multiagentes

Modularidade em agentes: Multiagentes

Exemplo: Multiagente de suporte ao cliente

Prévia do Capítulo 2

¹ https://langchain-ai.github.io/langgraph/concepts/multi_agent/#multi-agent-architectures

Avaliação contínua e ciclos de feedback

 

• Monitoring abrangente

 

Avaliação contínua e ciclos de feedback

 

• Monitoring abrangente
• Métricas comuns:
  • Taxa de sucesso
  • Latência
  • Erros

 

Avaliação contínua e ciclos de feedback

 

• Monitoring abrangente
• Métricas comuns:
  • Taxa de sucesso
  • Latência
  • Erros
• Coletar feedback de usuários

 

Vamos praticar!

Construindo Sistemas Agentic Escaláveis