Від прототипу до продакшну

Побудова масштабованих агентних систем

Korey Stegared-Pace

Senior AI Cloud Advocate, Microsoft

Ширший контекст

агент у застосунку

Побудова масштабованих агентних систем

Крок 1: Підтвердіть реальні взаємодії

 

Тестування веде до помилок, а помилки — до розуміння.

— Берт Рутан

Берт Рутан

Побудова масштабованих агентних систем

Крок 1: Підтвердіть реальні взаємодії

 

помилки користувачів

симульовані дані

1 nip over = британський сленг: швидко зазирнути
Побудова масштабованих агентних систем

Крок 2: Тестуйте все: модульні тести

модульні тести

Побудова масштабованих агентних систем

Крок 2: Тестуйте все: інтеграційні тести

інтеграційні тести

Побудова масштабованих агентних систем

Крок 2: Тестуйте все: оцінюйте системні підказки

оцінка системних підказок

Побудова масштабованих агентних систем

Крок 2: Тестуйте все: суб'єктивні оцінки

оцінювач-людина

Побудова масштабованих агентних систем

Крок 2: Тестуйте все: суб'єктивні оцінки

LLM як суддя

Побудова масштабованих агентних систем

Крок 3: Обмежувачі та спостережуваність

 

фільтри вмісту

резервні сценарії

Побудова масштабованих агентних систем

Крок 3: Обмежувачі та спостережуваність

логування

 

збирання даних

Побудова масштабованих агентних систем

Крок 4: Тіньові деплойменти

 

тіньовий деплоймент

Побудова масштабованих агентних систем

Крок 5: Стратегії розгортання

стратегії розгортання 1

Побудова масштабованих агентних систем

Крок 5: Стратегії розгортання

стратегії розгортання 2

Побудова масштабованих агентних систем

Крок 5: Стратегії розгортання

стратегії розгортання 3

Побудова масштабованих агентних систем

Фінальний чекліст

передрелізний чекліст

Побудова масштабованих агентних систем

Давайте потренуємось!

Побудова масштабованих агентних систем

Preparing Video For Download...