Повна автоматизація та найкращі практики в MLOps

Повністю автоматизований MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

Життєвий цикл MLOps

Зображення життєвого циклу MLOps. Три з'єднані кола. Назви зліва направо: Design, Development, Deployment.

Повністю автоматизований MLOps

Рівні зрілості в MLOps

$$

Рівні зрілості:

  • Ручний ML‑процес

  • Напів автоматизований ML‑процес

  • Повністю автоматизований ML‑процес

Повністю автоматизований MLOps

Ручний ML‑процес — разові експерименти

Зображення, що ілюструє ручну передачу моделей з розробки в продакшн.

Повністю автоматизований MLOps

Напів автоматизований ML‑процес

Зображення подачі даних до оркестрованого конвеєра експериментів.

Повністю автоматизований MLOps

Напів автоматизований ML‑процес

Попереднє зображення доповнено кодом, що надсилається в репозиторій вихідного коду, і сховищем ознак, яке подає дані в систему.

Повністю автоматизований MLOps

Напів автоматизований ML‑процес

Попереднє зображення доповнено компонентом розгортання. Він розгортає автоматизовані ML‑конвеєри в архітектурі. Додатково сховище метаданих ML отримує метадані, згенеровані автоматизованим конвеєром.

Повністю автоматизований MLOps

Напів автоматизований ML‑процес

Архітектуру розширено: моделі з автоматизованого конвеєра надсилаються до реєстру моделей, який передає їх модулю подавання моделей. Модуль подавання з'єднаний зі службою передбачень.

Повністю автоматизований MLOps

Напів автоматизований ML‑процес

Служба передбачень під'єднана до компонента моніторингу продуктивності, який, своєю чергою, з'єднаний з автоматичним тригером. Автотригер може запускати автоматизований конвеєр у системі.

Повністю автоматизований MLOps

Повністю автоматизований ML‑процес

Огляд довідкової архітектури повністю автоматизованого MLOps.

Повністю автоматизований MLOps

Автоматизація в життєвому циклі ML — Дизайн

Таблиця, що показує: активності на етапі дизайну й планування не автоматизуються.

Кращі практики:

  • Використовуйте відтворювані процеси
  • Пишіть докладну документацію
Повністю автоматизований MLOps

Автоматизація в життєвому циклі ML — Розробка

Таблиця, що показує: не всі активності на етапі розробки можна автоматизувати.

Кращі практики:

  • Пам'ятайте: ми розробляємо ПЗ
  • Використовуйте керування версіями
  • Застосовуйте інструменти оркестрації
Повністю автоматизований MLOps

Автоматизація в життєвому циклі ML — Операції

Таблиця, що показує: більшість активностей на етапі операцій можна автоматизувати.

Використовуйте:

  • Автоматизоване тестування
  • CI/CD/CT/CM
Повністю автоматизований MLOps

Давайте потренуємось!

Повністю автоматизований MLOps

Preparing Video For Download...