Principi di design per agenti scalabili

Creare sistemi agentici scalabili

Korey Stegared-Pace

Senior AI Cloud Advocate, Microsoft

Scalabile o non scalabile?

scalability1.jpg

Creare sistemi agentici scalabili

Scalabile o non scalabile?

scalability2.jpg

Creare sistemi agentici scalabili

Scalabile o non scalabile?

scalability3.jpg

Creare sistemi agentici scalabili

Scalabile o non scalabile?

scalability4.jpg

Creare sistemi agentici scalabili

I pilastri dei sistemi agentici scalabili

scalable_pillars.jpg

Creare sistemi agentici scalabili

Infrastruttura e tool solidi

  • Compute: Risorse per eseguire il codice

 

compute.png

  • Storage: Stato, log e cronologia

storage.png

Creare sistemi agentici scalabili

Infrastruttura e tool solidi

Pipeline di deploy affidabili

deploy_pipeline.png

Tooling per agenti consolidato

agent_tooling.png

Creare sistemi agentici scalabili

Modularità

Progetta sistemi come componenti indipendenti che formano un tutto più grande

  • Consente design, sviluppo e manutenzione indipendenti

lego1.gif

Creare sistemi agentici scalabili

Modularità

Progetta sistemi come componenti indipendenti che formano un tutto più grande

  • Consente design, sviluppo e manutenzione indipendenti

lego1.jpg

Creare sistemi agentici scalabili

Modularità

Progetta sistemi come componenti indipendenti che formano un tutto più grande

  • Consente design, sviluppo e manutenzione indipendenti

lego2.jpg

Creare sistemi agentici scalabili

Modularità negli agenti: modularità software

software_modularity.jpg

Creare sistemi agentici scalabili

Modularità negli agenti: multi-agente

single_agent2.jpg

Creare sistemi agentici scalabili

Modularità negli agenti: multi-agente

multi_agent1.jpg

Creare sistemi agentici scalabili

Esempio: multi-agente per supporto clienti

customer_multi_agent.jpg

Creare sistemi agentici scalabili

Anteprima del Capitolo 2

1 https://langchain-ai.github.io/langgraph/concepts/multi_agent/#multi-agent-architectures
Creare sistemi agentici scalabili

Valutazione continua e feedback loop

 

  • Monitoring completo

 

observability.png

Creare sistemi agentici scalabili

Valutazione continua e feedback loop

 

  • Monitoring completo
  • Metriche comuni:
    • Tasso di successo
    • Latenza
    • Errori

 

tracking.png

Creare sistemi agentici scalabili

Valutazione continua e feedback loop

 

  • Monitoring completo
  • Metriche comuni:
    • Tasso di successo
    • Latenza
    • Errori
  • Raccogli feedback dagli utenti

 

ratings.png

Creare sistemi agentici scalabili

Passiamo alla pratica!

Creare sistemi agentici scalabili

Preparing Video For Download...