Ланцюжки та агенти

Концепції LLMOps

Max Knobbout, PhD

Applied Scientist, Uber

Життєвий цикл LLM: ланцюжки та агенти

Від підказок до застосунків

 

• Щоб використати цей шаблон, нам потрібні:
  • Приклади
  • Вхідні дані
• Кроки:
  1. Отримання введення
  2. Пошук прикладів
  3. Створення підказки
  4. Отримання відповіді
  5. Розбір результату

Ланцюжок на основі нашого шаблону

 

Навіщо потрібні ланцюжки

 

 

 

• Розробляйте складні застосунки
• Забезпечуйте модульний дизайн для масштабованості й ефективності
• Відкривайте безліч варіантів налаштування

Агенти

 

 

 

• Агенти складаються з:
  • Декількох дій (або інструментів)
  • LLM, що вирішує, яку дію виконати

 

• Корисні, коли:
  • Дій багато
  • Оптимальна послідовність кроків невідома
  • Вхідні дані не визначені

Агенти

Агенти

Агенти

Різниця між ланцюжками та агентами

 

 

	Ланцюжки 🔗	Агенти 🤖
Характер	Детерміновані	Адаптивні
Складність	Низька	Висока
Гнучкість	Низька	Висока
Ризик	Нижчий (через передбачуваність)	Вищий (через адаптивність)

Цикл розробки

Цикл розробки

Цикл розробки

Давайте потренуємось!

Концепції LLMOps