Акуратні відмови: зниження ризиків

Побудова масштабованих агентних систем

Korey Stegared-Pace

Senior AI Cloud Advocate, Microsoft

Збої виклику інструментів

Рішення

 

  • Чітко визначайте параметри та використання

 

  • Валідація виводу інструментів (unit-тести!)

 

  • Перевірки правильності вибору інструменту

 

  • MCP!
Проблеми

Збої виклику інструментів

Побудова масштабованих агентних систем

Збої виклику інструментів — механізм повтору

 

  • Зовнішні сервіси можуть ламатися або тимчасово гальмувати

 

  • Повтор

    • Експоненційне відкладання → поступове збільшення інтервалів між спробами
    • Інформуйте користувачів про проблеми через callback-и

Побудова масштабованих агентних систем

Збої виклику інструментів — кешування

 

  • Результати інструментів кешуються як резерв

 

  • Працює для: статичних даних з рідкими оновленнями

 

  • Не працює для: інструментів із даними в реальному часі

кешування.png

Побудова масштабованих агентних систем

Збої виклику інструментів — керування чергою

 

  • Виклики інструментів можуть залежати один від одного

 

  • Приклад: спершу бронювання перельоту, потім таксі

 

  • Невдалі виклики можна переміщати нижче в черзі

 

керування_чергою.png

Побудова масштабованих агентних систем

Автентифікація

authentication_it.png

 

  • Інструменти можуть вимагати доступ і дозволи до приватних даних

 

  • Приклад: фахівець служби підтримки ІТ
    • Дозволено: системні журнали
    • Заборонено: паролі, місцеперебування тощо
Побудова масштабованих агентних систем

Автентифікація — унікальні ідентифікатори агентів

agent_ids0.jpg

Побудова масштабованих агентних систем

Автентифікація — ізольовані середовища

agent_ids.jpg

Побудова масштабованих агентних систем

Автентифікація — запобіжники та обмеження дій

restrictions.jpg

Побудова масштабованих агентних систем

Давайте потренуємось!

Побудова масштабованих агентних систем

Preparing Video For Download...