Оркестрація в MLOps

Повністю автоматизований MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

Ключовий компонент у системах MLOps

Зразкова архітектура MLOps із двома підсвіченими елементами: оркестрований експеримент у середовищі розробки та автоматизований конвеєр у продакшні.

Повністю автоматизований MLOps

Модульність і повторне використання

Схема з двома ML-конвеєрами: верхній у середовищі розробки й експериментів, нижній — у продакшні.

Повністю автоматизований MLOps

Оркестрація й автоматизація

ML-конвеєри використовують у:

  • Розробці та експериментах

Зображення компонента: оркестрований експеримент.

  • Продакшні

Зображення автоматизованого ML-конвеєра.

Повністю автоматизований MLOps

Орієнтовані ациклічні графи (DAG) в MLOps

$$

  • Графічні подання конвеєрів
  • Кроки конвеєра як вузли
  • Залежності між кроками — це ребра

Зображення простого DAG із взаємопов'язаними кроками ML-конвеєра.

Повністю автоматизований MLOps

Що таке оркестрація в MLOps?

$$

  • Керування й автоматизація потоків завдань

$$

  • Планування та моніторинг завдань

$$

  • Керування залежностями й потоками даних
Повністю автоматизований MLOps

ML-конвеєри — розробка й експерименти

Схема оркестрованого ML-конвеєра в середовищі розробки та експериментів. Конвеєр запускає дата-сайєнтитст, а керує ним оркестратор.

  • Керує end-to-end завданнями тренування моделі
  • Правильний потік, протоколювання й логування
  • Паралельні експерименти
Повністю автоматизований MLOps

ML-конвеєри — продакшн

Схема автоматизованого ML-конвеєра в продакшні. Конвеєр запускає автоматичний тригер, а керує ним оркестратор.

  • Допомагає автоматизувати розгортання моделей
  • Керує та виконує кроки конвеєра
  • Стабільні й відтворювані розгортання
Повністю автоматизований MLOps

Давайте потренуємось!

Повністю автоматизований MLOps

Preparing Video For Download...