Cum scalează (și eșuează) agenții AI

Construirea sistemelor agentice scalabile

Korey Stegared-Pace

Senior AI Cloud Advocate, Microsoft

Începutul promițător

confident_start1.jpg

Construirea sistemelor agentice scalabile

Începutul promițător

confident_start2.jpg

Construirea sistemelor agentice scalabile

Începutul promițător

confident_start3.jpg

Construirea sistemelor agentice scalabile

Începutul promițător

confident_start4.jpg

Construirea sistemelor agentice scalabile

Începutul promițător

confident_start5.jpg

Construirea sistemelor agentice scalabile

Începutul promițător

confident_start6.jpg

Construirea sistemelor agentice scalabile

Probleme la scară

trouble_at_scale.jpg

Construirea sistemelor agentice scalabile

Mod de eșec #1 - Evaluare fragilă

fragile_evaluation1.jpg

1 nip over = British slang for a quick visit
Construirea sistemelor agentice scalabile

Mod de eșec #1 - Evaluare fragilă

1 nip over = British slang for a quick visit
Construirea sistemelor agentice scalabile

Mod de eșec #1 - Evaluare fragilă

fragile_evaluation3.jpg

1 nip over = British slang for a quick visit
Construirea sistemelor agentice scalabile

Mod de eșec #2 - Derivă de intenție

intent_drift1.jpg

Construirea sistemelor agentice scalabile

Mod de eșec #2 - Derivă de intenție

intent_drift2.jpg

Construirea sistemelor agentice scalabile

Mod de eșec #3 - Bucle de feedback nedorite

ratings.png

Voturi pozitive → glume, sarcasm etc.

Rezultat → adevărul este deprioritizat

feedback_loop.png

Definiți metrici clare pentru toate aspectele performanței

  • Acuratețe
  • Claritate
  • Ton
Construirea sistemelor agentice scalabile

Mod de eșec #4 - Blocaje de latență

latency_bottlenecks1.jpg

Construirea sistemelor agentice scalabile

Mod de eșec #4 - Blocaje de latență

latency_bottlenecks2.jpg

Construirea sistemelor agentice scalabile

Mod de eșec #4 - Blocaje de latență

latency_bottlenecks3.jpg

Construirea sistemelor agentice scalabile

Mod de eșec #4 - Blocaje de latență

latency_bottlenecks4.jpg

Construirea sistemelor agentice scalabile

Mod de eșec #4 - Blocaje de latență

latency_bottlenecks5.jpg

Construirea sistemelor agentice scalabile

Mod de eșec #4 - Blocaje de latență

latency_bottlenecks6.jpg

Construirea sistemelor agentice scalabile

Mod de eșec #5 - Explozie de costuri

latency_bottlenecks6.jpg

Construirea sistemelor agentice scalabile

Mod de eșec #5 - Explozie de costuri

usage_limits.jpg

Construirea sistemelor agentice scalabile

Să exersăm!

Construirea sistemelor agentice scalabile

Preparing Video For Download...