Введение в полностью автоматизированный MLOps

Полностью автоматизированный MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

MLOps в промышленных условиях

Какие цели ставят компании при использовании машинного обучения?

ML-инструменты и продукты помогают
- Лучше обслуживать клиентов
- Оптимизировать процессы

Изображение, показывающее, как компания может использовать системы машинного обучения для улучшения внутренних процессов или клиентских сервисов.

Оптимизация создания ценности

Компании стремятся максимизировать прибыль

Машинное обучение помогает повысить прибыльность
Анализ затрат и выручки позволяет оценить потенциальную прибыль
Правильное число ML-проектов обеспечивает рост прибыли

График с кривой. По оси X — количество ML-проектов. По оси Y — выручка от проектов. Кривая растёт до плато на отметке 6 проектов и выручке около 25 миллионов. После плато выручка снижается и больше не восстанавливается.

Затраты при разработке программного обеспечения

Типичные затраты в традиционном проекте разработки ПО:

Затраты на разработку
Управление проектом
Дизайн UI/UX
Контроль качества

Технический долг в разработке программного обеспечения

Технический долг или архитектурный долг:

Стоимость доработки, вызванной неудачными проектными решениями

Рисунок двух инженеров перед плохо построенным домом. Один говорит другому: «Не понимаю, почему добавление нового окна занимает так много времени».

¹ https://vincentdnl.com/drawings/

Скрытый технический долг в ML-системах

Машинное обучение: «кредитная карта с высокими процентами технического долга»[1].

Скрытый технический долг может быть связан с:

Данными для обучения ML-моделей
Моделями, лежащими в основе ML-системы
Инфраструктурой ML-системы
Мониторингом ML-системы

¹ https://research.google/pubs/pub43146/

Затраты в ML-проектах

Снижение прибыли из-за технического долга в ML-системах: $$ $$

Изображение с двумя графиками, каждый с одной кривой. На первом графике расчётная выручка составляет $25 млн. На втором она снизилась до $10 млн.

«Кредитная карта с высокими процентами» технического долга

ML-системы могут быть сложными и трудно управляемыми.

Изображение множества компонентов ML-системы. Код модели занимает небольшую центральную часть. Вокруг него — конфигурация, сбор данных, валидация данных, управление вычислительными ресурсами, инфраструктура обслуживания, мониторинг, инструменты анализа, инструменты управления процессами, извлечение признаков.

MLOps: лучший способ погасить долг

Если машинное обучение — это кредитная карта с высокими процентами технического долга, то MLOps — лучший способ его погасить.

MLOps может включать:

Автоматизированное тестирование
Автоматизированное отслеживание экспериментов
Автоматизированный мониторинг

Чтобы свести технический долг к минимуму

Давайте потренируемся!

Полностью автоматизированный MLOps