Жизненный цикл LLM

Концепции LLMOps

Max Knobbout, PhD

Applied Scientist, Uber

Основные фазы

Фаза идеации

Фаза идеации

Операционная фаза

Фазы идеации, разработки и эксплуатации с двунаправленными стрелками между ними

Фазы идеации, разработки и эксплуатации со стрелкой от разработки к идеации

Фазы идеации, разработки и эксплуатации со стрелкой от эксплуатации к разработке

Фазы идеации, разработки и эксплуатации с двунаправленными стрелками между ними

Сбор данных

Выбор базовой модели

Разработка промптов

Цепочки и агенты

RAG и дообучение

Тестирование

Развёртывание

Мониторинг и наблюдаемость

Управление затратами

Управление и безопасность

Обзор всех фаз со всеми темами

Концепции LLMOps