Od prototypu do produkcji

Budowanie skalowalnych systemów agentowych

Korey Stegared-Pace

Senior AI Cloud Advocate, Microsoft

Szerszy kontekst

Agent w aplikacji

Budowanie skalowalnych systemów agentowych

Krok 1: Walidacja rzeczywistych interakcji

 

Testowanie prowadzi do błędów, a błędy prowadzą do zrozumienia.

— Burt Rutan

Burt Rutan

Budowanie skalowalnych systemów agentowych

Krok 1: Walidacja rzeczywistych interakcji

 

Błędy użytkowników

Dane symulowane

1 nip over = British slang for a quick visit
Budowanie skalowalnych systemów agentowych

Krok 2: Testowanie – testy jednostkowe

Testy jednostkowe

Budowanie skalowalnych systemów agentowych

Krok 2: Testowanie – testy integracyjne

Testy integracyjne

Budowanie skalowalnych systemów agentowych

Krok 2: Testowanie – ocena promptów systemowych

Ocena promptów systemowych

Budowanie skalowalnych systemów agentowych

Krok 2: Testowanie – ocena subiektywna

Oceniający człowiek

Budowanie skalowalnych systemów agentowych

Krok 2: Testowanie – ocena subiektywna

LLM jako sędzia

Budowanie skalowalnych systemów agentowych

Krok 3: Zabezpieczenia i obserwowalność

 

Filtry treści

Mechanizmy awaryjne

Budowanie skalowalnych systemów agentowych

Krok 3: Zabezpieczenia i obserwowalność

Logowanie

 

Zbieranie danych

Budowanie skalowalnych systemów agentowych

Krok 4: Wdrożenie w tle

 

Wdrożenie w tle

Budowanie skalowalnych systemów agentowych

Krok 5: Strategie wdrożenia

Strategie wdrożenia 1

Budowanie skalowalnych systemów agentowych

Krok 5: Strategie wdrożenia

Strategie wdrożenia 2

Budowanie skalowalnych systemów agentowych

Krok 5: Strategie wdrożenia

Strategie wdrożenia 3

Budowanie skalowalnych systemów agentowych

Ostateczna lista kontrolna

Lista kontrolna przed uruchomieniem

Budowanie skalowalnych systemów agentowych

Czas na ćwiczenia!

Budowanie skalowalnych systemów agentowych

Preparing Video For Download...