Стратегії розгортання моделей

Розгортання та життєвий цикл MLOps

Nemanja Radojkovic

Senior Machine Learning Engineer

Розгортання успішне!

  • ML‑застосунок працює
  • API обробляє тисячі запитів/год
  • За місяць:
    • Знайдено нові, кращі ознаки
    • Зібрано нову партію тренувальних даних
    • Запущено конвеєр побудови моделі
    • Створено новий пакет моделі
Розгортання та життєвий цикл MLOps

заміна

Розгортання та життєвий цикл MLOps

офлайн-прогнозування

Розгортання та життєвий цикл MLOps

вікно змін

Розгортання та життєвий цикл MLOps

простоє в реальному часі

Розгортання та життєвий цикл MLOps

дорогий простій

Розгортання та життєвий цикл MLOps

blue green setup

Розгортання та життєвий цикл MLOps

натискання кнопки

Розгортання та життєвий цикл MLOps

термін blue/green

Розгортання та життєвий цикл MLOps

переваги й недоліки

Розгортання та життєвий цикл MLOps

відкат

Розгортання та життєвий цикл MLOps

canary deployment

Розгортання та життєвий цикл MLOps

розподіл запитів

Розгортання та життєвий цикл MLOps

крок другий

Розгортання та життєвий цикл MLOps

кінцевий результат

Розгортання та життєвий цикл MLOps

Розгортання та життєвий цикл MLOps

валідація

Розгортання та життєвий цикл MLOps

недолік

Розгортання та життєвий цикл MLOps

зниження ризиків

Розгортання та життєвий цикл MLOps

Давайте потренуємось!

Розгортання та життєвий цикл MLOps

Preparing Video For Download...