Современный фреймворк MLOps

MLOps: развёртывание и жизненный цикл моделей

Nemanja Radojkovic

Senior Machine Learning Engineer

Об авторе

 

Фото профиля

 

  • Старший инженер по машинному обучению
  • Опыт разработки, развёртывания и поддержки моделей машинного обучения в продакшене
  • Текущий фокус: развёртывание и жизненный цикл ML-моделей
1 www.linkedin.com/in/radojkovic
MLOps: развёртывание и жизненный цикл моделей

Концептуальный курс

ДА: Концептуальное понимание

концептуальная блок-схема

НЕТ: Практические навыки

практическое программирование

MLOps: развёртывание и жизненный цикл моделей

MLOps

Machine Learning Operations

  • Принципы
  • Практики
  • Инструменты

Цель: ML-процессы и сервисы

  • Автоматизированные
  • Воспроизводимые
  • Интегрированные
MLOps: развёртывание и жизненный цикл моделей

цели курса, часть 1

MLOps: развёртывание и жизненный цикл моделей

цели курса, часть 2

MLOps: развёртывание и жизненный цикл моделей

MLOps со стороны разработки

MLOps: развёртывание и жизненный цикл моделей

Глава I

Ценность и необходимость MLOps

ценность

Этапы жизненного цикла модели

жизненный цикл

 

Компоненты фреймворка MLOps

строительные блоки

MLOps: развёртывание и жизненный цикл моделей

только DevOps

MLOps: развёртывание и жизненный цикл моделей

DevOps и MLOps

MLOps: развёртывание и жизненный цикл моделей

Высокая цена ML без Ops

 

ТИПИЧНАЯ ОТПРАВНАЯ ТОЧКА

  • Ручные ML-процессы
  • Ручное развёртывание
  • Бессистемный мониторинг

 

=> Накопление технического долга

MLOps: развёртывание и жизненный цикл моделей

Технический долг

подразумеваемые затраты на доработку, возникающие при выборе простого (ограниченного) решения сейчас вместо более правильного, требующего больше времени

~ Wikipedia[1]

 

Известная статья Google по теме:

«Machine Learning: The high-interest credit card of technical debt»[2]

 

ЧЕМ БОЛЬШЕ ВРЕМЕНИ И МОДЕЛЕЙ В ПРОДАКШЕНЕ

  • Тем больше технического долга и рисков модели
  • Процессы замедляются, становятся сложнее и ненадёжнее
  • Способность создавать ценность снижается
1 https://en.wikipedia.org/wiki/Technical_debt 2 https://research.google/pubs/pub43146/
MLOps: развёртывание и жизненный цикл моделей

ML-процессы

  • Сбор и подготовка данных
  • Разметка данных
  • Выбор модели
  • Обучение модели
  • Упаковка модели
  • Развёртывание модели
  • Мониторинг и поддержка модели

 

Автоматизация ML-процессов == зрелость MLOps

MLOps: развёртывание и жизненный цикл моделей

MLOps на практике

  • Автоматизированные
  • Быстрые
  • Воспроизводимые
  • Объяснимые
MLOps: развёртывание и жизненный цикл моделей

мы здесь

MLOps: развёртывание и жизненный цикл моделей

нелинейный

MLOps: развёртывание и жизненный цикл моделей

линейный

MLOps: развёртывание и жизненный цикл моделей

в центре внимания 1

MLOps: развёртывание и жизненный цикл моделей

все взгляды на меня

MLOps: развёртывание и жизненный цикл моделей

MLOps: развёртывание и жизненный цикл моделей

Впереди!

 

Жизненный цикл модели

жизненный цикл

Архитектура MLOps

концептуальная блок-схема

MLOps: развёртывание и жизненный цикл моделей

Давайте потренируемся!

MLOps: развёртывание и жизненный цикл моделей

Preparing Video For Download...