Шаблон автоматизації, моніторингу та реагування на інциденти

Повністю автоматизований MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

Що таке шаблон проєктування ПЗ?

$$

Загальне, багаторазове рішення для типових проблем...

$$

$$

Зображення креслення.

Повністю автоматизований MLOps

Автоматизуйте, моніторте, реагуйте

$$

$$

Зображення процесу: Automation, Monitoring, Incident Response.

  • Підвищує надійність спроєктованих нами ML‑систем
Повністю автоматизований MLOps

Три приклади шаблону в MLOps

$$

  1. Автоматичне перевчання моделі
  2. Відкат моделі
  3. Імпутація ознак

$$

Зображення креслення.

Повністю автоматизований MLOps

1. Автоматичне перевчання моделі

Огляд високого рівня повністю автоматизованої архітектури MLOps.

Повністю автоматизований MLOps

1. Автоматичне перевчання моделі — виконання передбачень

Огляд високого рівня повністю автоматизованої архітектури MLOps. Виділено сервіс передбачень.

Повністю автоматизований MLOps

1. Автоматичне перевчання моделі — Моніторинг

Огляд високого рівня повністю автоматизованої архітектури MLOps. Виділено модуль моніторингу продуктивності.

Повністю автоматизований MLOps

1. Автоматичне перевчання моделі — Тригер

Огляд високого рівня повністю автоматизованої архітектури MLOps. Виділено компонент тригерів.

Повністю автоматизований MLOps

1. Автоматичне перевчання моделі — Автоматизований конвеєр

Огляд високого рівня повністю автоматизованої архітектури MLOps. Виділено автоматизований конвеєр.

Повністю автоматизований MLOps

1. Автоматичне перевчання моделі — Розгортання

Огляд високого рівня повністю автоматизованої архітектури MLOps. Виділено компонент безперервного доставляння.

Повністю автоматизований MLOps

2. Відкат моделі

Огляд високого рівня повністю автоматизованої архітектури MLOps. Виділено автоматизований конвеєр.

Повністю автоматизований MLOps

2. Відкат моделі — Помилка валідації

Огляд високого рівня повністю автоматизованої архітектури MLOps. Виділено кроки оцінювання та валідації моделі.

Повністю автоматизований MLOps

2. Відкат моделі — Остання працездатна модель

Огляд високого рівня повністю автоматизованої архітектури MLOps. Виділено реєстр моделей.

Повністю автоматизований MLOps

2. Відкат моделі — Повторне розгортання

Огляд високого рівня повністю автоматизованої архітектури MLOps. Виділено компонент безперервного розгортання.

Повністю автоматизований MLOps

3. Імпутація ознак — Даномісткий конвеєр

Огляд високого рівня повністю автоматизованої архітектури MLOps. Виділено компоненти даних в автоматизованому конвеєрі.

Повністю автоматизований MLOps

3. Імпутація ознак — Якість даних

$$

Зображення таблиці з колонками даних із пропущеними значеннями.

$$

  • Різний рівень якості даних
  • Деякі ознаки можуть бути нижчі за поріг QA
Повністю автоматизований MLOps

3. Імпутація ознак — Дефектні ознаки

$$

Стовпці з попередньої таблиці виділені та позначені як дефектні.

$$

  • Виявляйте проблемні ознаки
  • Застосовуйте імпутацію ознак
Повністю автоматизований MLOps

3. Імпутація ознак — Можливі виправлення

  • Числові значення

    $$

    • Імпутація середнім/медіаною

    • Імпутація KNN

$$

  • Категоріальні значення

    $$

  • Імпутація найчастішою категорією

  • Додавання категорії "Missing"

Повністю автоматизований MLOps

Давайте потренуємось!

Повністю автоматизований MLOps

Preparing Video For Download...