Principy návrhu škálovatelných agentů

Building Scalable Agentic Systems

Korey Stegared-Pace

Senior AI Cloud Advocate, Microsoft

Škálovatelné nebo ne?

Škálovatelné nebo ne?

Škálovatelné nebo ne?

Škálovatelné nebo ne?

Pilíře škálovatelných agentních systémů

Robustní infrastruktura a nástroje

• Výpočetní výkon: Zdroje pro spouštění kódu

 

• Úložiště: Ukládání stavů, logů a historie

Robustní infrastruktura a nástroje

Spolehlivé nasazovací pipeline

Zavedené nástroje pro agenty

Modularita

Navrhování systémů jako samostatných nezávislých komponent tvořících větší celek

• Umožňuje nezávislý návrh, vývoj a údržbu

Modularita

Navrhování systémů jako samostatných nezávislých komponent tvořících větší celek

• Umožňuje nezávislý návrh, vývoj a údržbu

Modularita

Navrhování systémů jako samostatných nezávislých komponent tvořících větší celek

• Umožňuje nezávislý návrh, vývoj a údržbu

Modularita agentů: softwarová modularita

Modularita agentů: více agentů

Modularita agentů: více agentů

Příklad: zákaznická podpora s více agenty

Pohled do kapitoly 2

¹ https://langchain-ai.github.io/langgraph/concepts/multi_agent/#multi-agent-architectures

Průběžné vyhodnocování a zpětnovazební smyčky

 

• Komplexní monitoring

 

Průběžné vyhodnocování a zpětnovazební smyčky

 

• Komplexní monitoring
• Běžné metriky:
  • Míra úspěšnosti
  • Latence
  • Chyby

 

Průběžné vyhodnocování a zpětnovazební smyčky

 

• Komplexní monitoring
• Běžné metriky:
  • Míra úspěšnosti
  • Latence
  • Chyby
• Sbírat zpětnou vazbu uživatelů

 

Pojďme si procvičit!

Building Scalable Agentic Systems