Полная автоматизация и лучшие практики в MLOps

Полностью автоматизированный MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

Жизненный цикл MLOps

Изображение жизненного цикла MLOps. Три кольцевых цикла, соединённых между собой. Названия каждого цикла слева направо: Design, Development, Deployment.

Полностью автоматизированный MLOps

Уровни зрелости в MLOps

$$

Уровни зрелости:

  • Ручной процесс машинного обучения

  • Полуавтоматический процесс машинного обучения

  • Полностью автоматический процесс машинного обучения

Полностью автоматизированный MLOps

Ручной процесс машинного обучения — специализированные эксперименты

Изображение, иллюстрирующее ручную передачу моделей из среды разработки в производственную среду.

Полностью автоматизированный MLOps

Полуавтоматический процесс машинного обучения

Изображение подачи данных в оркестрированный конвейер экспериментов.

Полностью автоматизированный MLOps

Полуавтоматический процесс машинного обучения

Предыдущее изображение дополнено: добавлен код, отправляемый в репозиторий исходного кода, и хранилище признаков, которое передаёт данные в систему.

Полностью автоматизированный MLOps

Полуавтоматический процесс машинного обучения

Предыдущее изображение дополнено компонентом развёртывания. Он запускает автоматизированные конвейеры машинного обучения в архитектуре. Хранилище метаданных машинного обучения получает метаданные, сгенерированные автоматизированным конвейером.

Полностью автоматизированный MLOps

Полуавтоматический процесс машинного обучения

Предыдущая архитектура дополнена: модели, создаваемые автоматизированным конвейером, помещаются в реестр моделей, откуда передаются в модуль обслуживания моделей. Этот модуль связан со службой предсказаний в архитектуре.

Полностью автоматизированный MLOps

Полуавтоматический процесс машинного обучения

Модуль службы предсказаний в архитектуре подключён к компоненту мониторинга производительности, который, в свою очередь, связан с автоматическим триггером. Автоматический триггер может запускать автоматизированный конвейер в системе.

Полностью автоматизированный MLOps

Полностью автоматический процесс машинного обучения

Изображение с обзором полностью автоматизированной эталонной архитектуры MLOps.

Полностью автоматизированный MLOps

Автоматизация в жизненном цикле машинного обучения — проектирование

Таблица, иллюстрирующая, что действия на этапе проектирования и планирования не поддаются автоматизации.

Рекомендуемые практики:

  • Применяйте воспроизводимые процессы
  • Составляйте подробную документацию
Полностью автоматизированный MLOps

Автоматизация в жизненном цикле машинного обучения — разработка

Таблица, иллюстрирующая, что не все действия на этапе разработки поддаются автоматизации.

Рекомендуемые практики:

  • Помните, что мы разрабатываем программное обеспечение
  • Используйте систему контроля версий
  • Применяйте инструменты оркестрации
Полностью автоматизированный MLOps

Автоматизация в жизненном цикле машинного обучения — операции

Таблица, иллюстрирующая, что большинство действий на операционном этапе поддаются автоматизации.

Используйте:

  • Автоматизированное тестирование
  • CI/CD/CT/CM
Полностью автоматизированный MLOps

Давайте потренируемся!

Полностью автоматизированный MLOps

Preparing Video For Download...