CI/CD/CT/CM у повністю автоматизованому MLOps

Повністю автоматизований MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

DevOps

$$

Схема методології DevOps: поєднання двох циклів — Dev і Ops.

Повністю автоматизований MLOps

CI/CD у DevOps

Схема типової конвеєрної CI/CD у DevOps.

Повністю автоматизований MLOps

Повністю автоматизований MLOps

$$

Схема методології MLOps: поєднання трьох циклів — ML, Dev і Ops.

Повністю автоматизований MLOps

Особливості ML — Змінний світ

$$

Світ постійно змінюється

Світ із вимірюваннями, що безупинно обертаються.

$$

Безперервний моніторинг (CM)

Система моніторингу, що безперервно відстежує змінний світ.

Повністю автоматизований MLOps

Особливості ML — Погіршення продуктивності

Моделі поступово деградують

Крива, що показує: продуктивність моделей ML постійно знижується після виводу в продакшн.

Безперервне навчання (CT)

Схема системи, яка постійно перенавчається.

Повністю автоматизований MLOps

CI/CD/CT/CM у MLOps

$$

Конвеєр CI/CD, що показує кроки робочого процесу MLOps.

Повністю автоматизований MLOps

CI/CD/CT/CM у MLOps

$$

Конвеєр CI/CD/CT, що показує кроки робочого процесу MLOps.

Повністю автоматизований MLOps

CI/CD/CT/CM у MLOps

$$

Конвеєр CI/CD/CT/CM, що показує кроки типового робочого процесу MLOps.

Повністю автоматизований MLOps

Повністю автоматизований MLOps

$$

Схема з підписом: "Повністю автоматизована система MLOps".

Повністю автоматизований MLOps

Повністю автоматизований MLOps — Спочатку автоматизація

$$

Стрілка з підписом: "Automation first". Стрілка вказує на блок із підписом: "Повністю автоматизована система MLOps".

Повністю автоматизований MLOps

Повністю автоматизований MLOps — Шаблон автоматизованої реакції

Продовження попередньої схеми. Додано нову стрілку з підписом: "Automate - monitor - incident response". Вона також вказує на блок із текстом: "Повністю автоматизована система MLOps".

Повністю автоматизований MLOps

Повністю автоматизований MLOps — CI/CD/CT/CM

Продовження попередньої схеми. Додано нову стрілку з підписом: "CI/CD/CT/CM". Вона також вказує на блок із текстом: "Повністю автоматизована система MLOps".

Повністю автоматизований MLOps

Повністю автоматизований MLOps

$$

$$

Схема, що показує: для повністю автоматизованого MLOps потрібні спочатку автоматизація, шаблон automate-monitor-incident response та CI/CD/CT/CM.

Повністю автоматизований MLOps

Давайте потренуємось!

Повністю автоматизований MLOps

Preparing Video For Download...