Як AI-агенти масштабуются (і дають збої)

Побудова масштабованих агентних систем

Korey Stegared-Pace

Senior AI Cloud Advocate, Microsoft

Упевнений старт

Упевнений старт

Упевнений старт

Упевнений старт

Упевнений старт

Упевнений старт

Проблеми на масштабі

Режим збою №1 — Крихка оцінка

¹ nip over = британський сленг: швидкий візит

Режим збою №1 — Крихка оцінка

¹ nip over = британський сленг: швидкий візит

Режим збою №1 — Крихка оцінка

¹ nip over = британський сленг: швидкий візит

Режим збою №2 — Зсув наміру

Режим збою №2 — Зсув наміру

Режим збою №3 — Небажані петлі зворотного звʼязку

Голоси «вгору» → жарти, сарказм тощо

Наслідок → правду відсувають на другий план

Визначте чіткі метрики для всіх аспектів якості

• Правдивість
• Зрозумілість
• Тон

Режим збою №4 — Вузькі місця затримки

Режим збою №4 — Вузькі місця затримки

Режим збою №4 — Вузькі місця затримки

Режим збою №4 — Вузькі місця затримки

Режим збою №4 — Вузькі місця затримки

Режим збою №4 — Вузькі місця затримки

Режим збою №5 — Вибух витрат

Режим збою №5 — Вибух витрат

Давайте потренуємось!

Побудова масштабованих агентних систем