Масштабирование ИИ-агентов: успехи и сбои

Создание масштабируемых агентных систем

Korey Stegared-Pace

Senior AI Cloud Advocate, Microsoft

Уверенный старт

Уверенный старт

Уверенный старт

Уверенный старт

Уверенный старт

Уверенный старт

Проблемы при масштабировании

Сбой №1 – Ненадёжная оценка

¹ nip over = британский сленг, означающий «быстро забежать»

Сбой №1 – Ненадёжная оценка

¹ nip over = британский сленг, означающий «быстро забежать»

Сбой №1 – Ненадёжная оценка

¹ nip over = британский сленг, означающий «быстро забежать»

Сбой №2 – Смещение намерения

Сбой №2 – Смещение намерения

Сбой №3 – Нежелательные петли обратной связи

Голосование → шутки, сарказм и т. п.

Результат → достоверность отходит на второй план

Определите чёткие метрики для всех аспектов качества

• Достоверность
• Ясность
• Тон

Сбой №4 – Узкие места по задержке

Сбой №4 – Узкие места по задержке

Сбой №4 – Узкие места по задержке

Сбой №4 – Узкие места по задержке

Сбой №4 – Узкие места по задержке

Сбой №4 – Узкие места по задержке

Сбой №5 – Взрывной рост затрат

Сбой №5 – Взрывной рост затрат

Давайте потренируемся!

Создание масштабируемых агентных систем