MLOps у Kubernetes

Вступ до Kubernetes

Frank Heilmann

Platform Architect and Freelance Instructor

Що таке MLOps?

Підхід до розгортання й підтримки моделей машинного навчання у продакшені
Набір перевірених практик із фокусом на безперервний розвиток таких моделей
Натхнено DevOps:
- Моделі створюють і тестують в ізольованих експериментальних середовищах, а потім розгортають у продакшені
- У продакшені ведеться безперервний моніторинг; можна запускати перенавчання
Дата-сайєнтисти, інженери даних і IT-команди можуть синхронно працювати з розгорнутими моделями та забезпечувати їхню точність

Парадигма MLOps добре узгоджується з Kubernetes:
- Ізольовані експериментальні системи: можна реалізувати через Pods та Kubernetes Storage
- Моніторинг продакшен-моделей ML: завдяки життєвому циклу Pods (і версіям розгорнутих образів)
- Синхронна робота над точністю моделі: закладена від початку архітектурою Kubernetes
Існує кілька фреймворків для MLOps; два найвідоміші open-source рішення:
- mlflow
- Kubeflow

Огляд Kubeflow

Kubeflow дає змогу просто розгортати ML-робочі процеси саме на Kubernetes
Покриває кожен етап життєвого циклу ML-моделі
Складається з кількох компонентів, що незалежно закривають ці етапи
Для розробки та розгортання ML-моделей можна використовувати Python через API
- немає потреби використовувати kubectl

Вступ до Kubernetes