Стратегии развёртывания модели

MLOps: развёртывание и жизненный цикл моделей

Nemanja Radojkovic

Senior Machine Learning Engineer

Развёртывание выполнено!

  • ML-приложение работает
  • API обрабатывает тысячи запросов в час
  • Через месяц:
    • Найдены новые, более эффективные признаки
    • Собрана новая партия обучающих данных
    • Запущен конвейер построения модели
    • Создан новый пакет модели
MLOps: развёртывание и жизненный цикл моделей

замена модели

MLOps: развёртывание и жизненный цикл моделей

офлайн-предсказание

MLOps: развёртывание и жизненный цикл моделей

окно изменений

MLOps: развёртывание и жизненный цикл моделей

простой в реальном времени

MLOps: развёртывание и жизненный цикл моделей

дорогостоящий простой

MLOps: развёртывание и жизненный цикл моделей

схема blue/green

MLOps: развёртывание и жизненный цикл моделей

одно нажатие кнопки

MLOps: развёртывание и жизненный цикл моделей

термин blue/green

MLOps: развёртывание и жизненный цикл моделей

преимущества и недостатки

MLOps: развёртывание и жизненный цикл моделей

откат

MLOps: развёртывание и жизненный цикл моделей

canary-развёртывание

MLOps: развёртывание и жизненный цикл моделей

разделение запросов

MLOps: развёртывание и жизненный цикл моделей

второй шаг

MLOps: развёртывание и жизненный цикл моделей

итоговый результат

MLOps: развёртывание и жизненный цикл моделей

MLOps: развёртывание и жизненный цикл моделей

валидация

MLOps: развёртывание и жизненный цикл моделей

недостаток

MLOps: развёртывание и жизненный цикл моделей

снижение рисков

MLOps: развёртывание и жизненный цикл моделей

Давайте потренируемся!

MLOps: развёртывание и жизненный цикл моделей

Preparing Video For Download...