Паттерн: автоматизация, мониторинг, реагирование на инциденты

Полностью автоматизированный MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

Что такое паттерн проектирования программного обеспечения?

$$

Универсальное решение для типичной повторяющейся задачи...

$$

$$

Изображение чертежа.

Полностью автоматизированный MLOps

Автоматизация, мониторинг, реагирование

$$

$$

Схема процесса: автоматизация, мониторинг, реагирование на инциденты.

  • Повышает надёжность проектируемых ML-систем
Полностью автоматизированный MLOps

Три примера паттерна проектирования в MLOps

$$

  1. Автоматическое переобучение модели
  2. Откат модели
  3. Импутация признаков

$$

Изображение чертежа.

Полностью автоматизированный MLOps

1. Автоматическое переобучение модели

Общая схема полностью автоматизированной архитектуры MLOps.

Полностью автоматизированный MLOps

1. Автоматическое переобучение модели — формирование предсказаний

Общая схема полностью автоматизированной архитектуры MLOps. Выделен сервис предсказаний.

Полностью автоматизированный MLOps

1. Автоматическое переобучение модели — мониторинг

Общая схема полностью автоматизированной архитектуры MLOps. Выделен модуль мониторинга производительности.

Полностью автоматизированный MLOps

1. Автоматическое переобучение модели — триггер

Общая схема полностью автоматизированной архитектуры MLOps. Выделен компонент триггера.

Полностью автоматизированный MLOps

1. Автоматическое переобучение модели — автоматизированный конвейер

Общая схема полностью автоматизированной архитектуры MLOps. Выделен автоматизированный конвейер.

Полностью автоматизированный MLOps

1. Автоматическое переобучение модели — развёртывание

Общая схема полностью автоматизированной архитектуры MLOps. Выделен компонент непрерывной доставки.

Полностью автоматизированный MLOps

2. Откат модели

Общая схема полностью автоматизированной архитектуры MLOps. Выделен автоматизированный конвейер.

Полностью автоматизированный MLOps

2. Откат модели — ошибка валидации

Общая схема полностью автоматизированной архитектуры MLOps. Выделены этапы оценки и валидации модели.

Полностью автоматизированный MLOps

2. Откат модели — последняя рабочая модель

Общая схема полностью автоматизированной архитектуры MLOps. Выделен реестр моделей.

Полностью автоматизированный MLOps

2. Откат модели — повторное развёртывание

Общая схема полностью автоматизированной архитектуры MLOps. Выделен компонент непрерывного развёртывания.

Полностью автоматизированный MLOps

3. Импутация признаков — конвейер с интенсивной обработкой данных

Общая схема полностью автоматизированной архитектуры MLOps. Выделены компоненты данных в автоматизированном конвейере.

Полностью автоматизированный MLOps

3. Импутация признаков — качество данных

$$

Таблица с колонками данных, содержащими пропущенные значения.

$$

  • Различное качество данных
  • Некоторые признаки могут не проходить порог контроля качества
Полностью автоматизированный MLOps

3. Импутация признаков — дефектные признаки

$$

Колонки из предыдущей таблицы выделены и помечены как дефектные.

$$

  • Обнаружение дефектных признаков
  • Применение импутации признаков
Полностью автоматизированный MLOps

3. Импутация признаков — возможные решения

  • Числовые значения

    $$

    • Импутация средним/медианой

    • KNN-импутация

$$

  • Категориальные значения

    $$

  • Импутация наиболее частой категорией

  • Добавление категории «Пропущено»

Полностью автоматизированный MLOps

Давайте потренируемся!

Полностью автоматизированный MLOps

Preparing Video For Download...