Сучасна структура MLOps

Розгортання та життєвий цикл MLOps

Nemanja Radojkovic

Senior Machine Learning Engineer

Про мене

 

Світлина профілю

 

  • Senior Machine Learning Engineer
  • Досвід розробки, розгортання та підтримки моделей машинного навчання в продакшені
  • Поточний фокус: розгортання ML і життєвий цикл
1 www.linkedin.com/in/radojkovic
Розгортання та життєвий цикл MLOps

Концептуальний курс

ТАК: Загальне розуміння

концептуальна блок-схема

НІ: Практичні навички

практичне кодування

Розгортання та життєвий цикл MLOps

MLOps

Machine Learning Operations

  • Принципи
  • Практики
  • Інструменти

Мета: ML‑процеси та сервіси

  • Автоматизовані
  • Відтворювані
  • Інтегровані
Розгортання та життєвий цикл MLOps

ops part 1

Розгортання та життєвий цикл MLOps

ops part 2

Розгортання та життєвий цикл MLOps

mlops from dev

Розгортання та життєвий цикл MLOps

Розділ I

Цінність і необхідність MLOps

value

Етапи життєвого циклу моделі

life cycle

 

Компоненти фреймворку MLOps

building blocks

Розгортання та життєвий цикл MLOps

devops only

Розгортання та життєвий цикл MLOps

devops with mlops

Розгортання та життєвий цикл MLOps

Висока вартість ML без Ops

 

ЗВИЧАЙНА ТОЧКА СТАРТУ

  • Ручні ML‑процеси
  • Ручне розгортання
  • Разовий моніторинг

 

=> Накопичення технічного боргу

Розгортання та життєвий цикл MLOps

Технічний борг

прихована вартість додаткової переробки, що виникає через вибір простого (обмеженого) рішення зараз замість кращого підходу, який потребує більше часу

~ Вікіпедія[1]

 

Відомий документ Google на цю тему:

"Machine Learning: The high-interest credit card of technical debt"[2]

 

БІЛЬШЕ ЧАСУ Й БІЛЬШЕ МОДЕЛЕЙ У ПРОДАКШЕНІ

  • Більше технічного боргу та ризику моделі
  • Процес повільніший, фруструє і схильний до помилок
  • Здатність приносити цінність знижується
1 https://en.wikipedia.org/wiki/Technical_debt 2 https://research.google/pubs/pub43146/
Розгортання та життєвий цикл MLOps

ML‑процеси

  • Збирання та підготовка даних
  • Розмічування даних
  • Вибір моделі
  • Навчання моделі
  • Пакування моделі
  • Розгортання моделі
  • Моніторинг і підтримка моделі

 

Автоматизація ML‑процесу == зрілість MLOps

Розгортання та життєвий цикл MLOps

MLOps у дії

  • Автоматизовано
  • Швидко
  • Відтворювано
  • Пояснювано
Розгортання та життєвий цикл MLOps

ми тут

Розгортання та життєвий цикл MLOps

нелінійно

Розгортання та життєвий цикл MLOps

лінійно

Розгортання та життєвий цикл MLOps

у центрі уваги 1

Розгортання та життєвий цикл MLOps

вся увага на нас

Розгортання та життєвий цикл MLOps

Розгортання та життєвий цикл MLOps

Далі буде!

 

Життєвий цикл моделі

life cycle

Архітектура MLOps

концептуальна блок-схема

Розгортання та життєвий цикл MLOps

Давайте потренуємось!

Розгортання та життєвий цикл MLOps

Preparing Video For Download...