Процесс развёртывания и тестирования

MLOps: развёртывание и жизненный цикл моделей

Nemanja Radojkovic

Senior Machine Learning Engineer

Не так быстро!

 

ограничение скорости

 

 

 

  • Не спешите с развёртыванием — сначала проведите тщательное тестирование!
MLOps: развёртывание и жизненный цикл моделей

План

ВИДЫ ТЕСТОВ

  • Модульные тесты
  • Интеграционные тесты
  • Дымовые тесты
  • Нагрузочные тесты
  • Приёмочные тесты

СРЕДЫ РАЗРАБОТКИ, РАЗВЁРТЫВАНИЯ И ТЕСТИРОВАНИЯ

  • Разработка
  • Тестирование
  • Промежуточная среда
  • Продакшн

 

ВНЕ ОХВАТА: Качество предсказаний модели

В ОХВАТЕ: Тестирование ML-приложения в целом

MLOps: развёртывание и жизненный цикл моделей

определение среды

MLOps: развёртывание и жизненный цикл моделей

Модульное тестирование

Проверка того, что отдельные блоки кода работают как ожидается

ПРИМЕР

Тестируемая функция:

def add_two_numbers(x, y):
    return x + y

Модульный тест:

add_two_numbers(1, 1) == 2
add_two_numbers(2, 3) == 5
MLOps: развёртывание и жизненный цикл моделей

разработка в изменении

MLOps: развёртывание и жизненный цикл моделей

постоянные изменения

MLOps: развёртывание и жизненный цикл моделей

MLOps: развёртывание и жизненный цикл моделей

MLOps: развёртывание и жизненный цикл моделей

тестовая среда 1

MLOps: развёртывание и жизненный цикл моделей

свободные ресурсы

MLOps: развёртывание и жизненный цикл моделей

интеграционные тесты 1

MLOps: развёртывание и жизненный цикл моделей

тестирование API

MLOps: развёртывание и жизненный цикл моделей

интеграционное тестирование

MLOps: развёртывание и жизненный цикл моделей

промежуточная среда

MLOps: развёртывание и жизненный цикл моделей

копия продакшна

MLOps: развёртывание и жизненный цикл моделей

копия продакшна 2

MLOps: развёртывание и жизненный цикл моделей

точные версии

MLOps: развёртывание и жизненный цикл моделей

данные из продакшна

MLOps: развёртывание и жизненный цикл моделей

дымовые тесты

MLOps: развёртывание и жизненный цикл моделей

нагрузочные тесты

MLOps: развёртывание и жизненный цикл моделей

стресс-тесты

MLOps: развёртывание и жизненный цикл моделей

UAT

MLOps: развёртывание и жизненный цикл моделей

Одно слабое звено разрушает всю систему

Важно тщательно контролировать, что именно попадает в продакшн.

уплотнительное кольцо

 

 

 

Катастрофа шаттла «Челленджер» в 1986 году произошла из-за неисправного резинового уплотнительного кольца

MLOps: развёртывание и жизненный цикл моделей

приоритеты

MLOps: развёртывание и жизненный цикл моделей

Давайте потренируемся!

MLOps: развёртывание и жизненный цикл моделей

Preparing Video For Download...