Проектирование промптов

Концепции LLMOps

Max Knobbout, PhD

Applied Scientist, Uber

Жизненный цикл LLM: проектирование промптов

Обзор фаз жизненного цикла LLM-приложения

Цикл разработки

Начальный обзор цикла разработки, который будет уточнён в ходе этой главы

Зачем нужно проектирование промптов?

Повышение качества результатов
Контроль над выводом
Снижение предвзятости и галлюцинаций

Элементы промпта

Инструкция
Примеры / контекст
Входные данные
Индикатор вывода

Пример промпта с инструкцией, примерами, входными данными и выводом

Поиск идеального промпта

Экспериментируйте с::

Параметрами LLM: температурой, максимальным числом токенов
Контекстным обучением и другими шаблонами проектирования промптов

Используйте playground для экспериментов!

Управление промптами

Необходимо для эффективности, воспроизводимости и совместной работы
Важно отслеживать:
- Промпт
- Вывод
- Модель и параметры
Используйте менеджер промптов или систему контроля версий
Начните собирать коллекцию качественных пар «вход–выход» для оценки

Шаблоны промптов для повторного использования

Слева — пример промпта, справа — шаблон промпта; показано их различие

Цикл разработки

Начальный обзор цикла разработки, который будет уточнён в ходе этой главы

Цикл разработки

Цикл разработки с добавленным этапом проектирования промптов

Давайте потренируемся!

Концепции LLMOps

Preparing Video For Download...