Zasady projektowania skalowalnych agentów

Budowanie skalowalnych systemów agentowych

Korey Stegared-Pace

Senior AI Cloud Advocate, Microsoft

Skalowalne czy nie?

scalability1.jpg

Budowanie skalowalnych systemów agentowych

Skalowalne czy nie?

scalability2.jpg

Budowanie skalowalnych systemów agentowych

Skalowalne czy nie?

scalability3.jpg

Budowanie skalowalnych systemów agentowych

Skalowalne czy nie?

scalability4.jpg

Budowanie skalowalnych systemów agentowych

Filary skalowalnych systemów agentowych

scalable_pillars.jpg

Budowanie skalowalnych systemów agentowych

Solidna infrastruktura i narzędzia

  • Obliczenia: Zasoby do uruchamiania kodu

 

compute.png

  • Pamięć masowa: Przechowywanie stanów, logów i historii

storage.png

Budowanie skalowalnych systemów agentowych

Solidna infrastruktura i narzędzia

Niezawodne potoki wdrożeniowe

deploy_pipeline.png

Sprawdzone narzędzia dla agentów

agent_tooling.png

Budowanie skalowalnych systemów agentowych

Modularność

Projektowanie systemów jako oddzielnych niezależnych komponentów tworzących większą całość

  • Umożliwia niezależne projektowanie, rozwój i utrzymanie

lego1.gif

Budowanie skalowalnych systemów agentowych

Modularność

Projektowanie systemów jako oddzielnych niezależnych komponentów tworzących większą całość

  • Umożliwia niezależne projektowanie, rozwój i utrzymanie

lego1.jpg

Budowanie skalowalnych systemów agentowych

Modularność

Projektowanie systemów jako oddzielnych niezależnych komponentów tworzących większą całość

  • Umożliwia niezależne projektowanie, rozwój i utrzymanie

lego2.jpg

Budowanie skalowalnych systemów agentowych

Modularność agentów: modularność oprogramowania

software_modularity.jpg

Budowanie skalowalnych systemów agentowych

Modularność agentów: wielu agentów

single_agent2.jpg

Budowanie skalowalnych systemów agentowych

Modularność agentów: wielu agentów

multi_agent1.jpg

Budowanie skalowalnych systemów agentowych

Przykład: system wielu agentów wsparcia klienta

customer_multi_agent.jpg

Budowanie skalowalnych systemów agentowych

Zapowiedź rozdziału 2.

1 https://langchain-ai.github.io/langgraph/concepts/multi_agent/#multi-agent-architectures
Budowanie skalowalnych systemów agentowych

Ciągła ewaluacja i pętle informacji zwrotnej

 

  • Wszechstronne monitorowanie

 

observability.png

Budowanie skalowalnych systemów agentowych

Ciągła ewaluacja i pętle informacji zwrotnej

 

  • Wszechstronne monitorowanie
  • Typowe metryki:
    • Współczynnik sukcesu
    • Opóźnienie
    • Błędy

 

tracking.png

Budowanie skalowalnych systemów agentowych

Ciągła ewaluacja i pętle informacji zwrotnej

 

  • Wszechstronne monitorowanie
  • Typowe metryki:
    • Współczynnik sukcesu
    • Opóźnienie
    • Błędy
  • Zbieranie opinii użytkowników

 

ratings.png

Budowanie skalowalnych systemów agentowych

Czas na ćwiczenia!

Budowanie skalowalnych systemów agentowych

Preparing Video For Download...