Вступ до повністю автоматизованого MLOps

Повністю автоматизований MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

MLOps в індустрійному середовищі

Які типові цілі компаній під час використання машинного навчання?

  • Розробляти ML-інструменти й продукти, що використовують дані, щоб
    • Краще обслуговувати клієнтів
    • Оптимізувати процеси

Зображення показує, як компанія може використовувати системи машинного навчання для покращення внутрішніх процесів або сервісів для клієнтів.

Повністю автоматизований MLOps

Оптимізація створення цінності

Компанії прагнуть максимізувати прибуток

  • Машинне навчання може підвищувати рентабельність
  • Аналізуючи витрати й доходи, компанія може оцінити потенційний прибуток
  • Запуск належної кількості ML-кейсів може дати прибуток

Графік із кривою. Вісь x — кількість проєктів з машинного навчання. Вісь y — дохід від проєктів. Крива зростає до плато на 6 проєктах з доходом ≈ 25 млн, після чого дохід знижується й більше не зростає.

Повністю автоматизований MLOps

Витрати на розробку програмного забезпечення

Очікувані витрати у звичайному проєкті розробки ПЗ:

  • Витрати на розробку
  • Управління проєктом
  • Дизайн UI/UX
  • Забезпечення якості
Повністю автоматизований MLOps

Технічний борг у розробці ПЗ

Технічний борг або дизайнерський борг:

  • Вартість переробок через неякісний дизайн

Зображення двох інженерів перед абияк збудованим будинком. Один каже іншому: «Не розумію, чому додати нове вікно так довго».

1 https://vincentdnl.com/drawings/
Повністю автоматизований MLOps

Прихований технічний борг у ML-системах

Машинне навчання: «кредитна картка технічного боргу з високими відсотками»[1].

Прихований технічний борг може стосуватися:

  1. Даних, на яких навчаються ML-моделі
  2. Моделей, що працюють у ML-системі
  3. Інфраструктури, яку використовує ML-система
  4. Моніторингу ML-системи
1 https://research.google/pubs/pub43146/
Повністю автоматизований MLOps

Витрати проєктів з машинного навчання

Зменшення прибутку через технічний борг у ML-системах: $$ $$

Зображення двох фігур з окремими кривими. У першій оцінено дохід у $25M. У другій цей дохід знижено до $10M.

Повністю автоматизований MLOps

Кредитка технічного боргу з високими відсотками

ML-системи можуть бути складними й ставати некерованими.

Зображення з багатьма компонентами ML-системи. Код ML — невеликий елемент у центрі. Навколо: конфігурація, збирання даних, валідація даних, управління ресурсами, інфраструктура сервінгу, моніторинг, інструменти аналізу, керування процесами, виділення ознак.

Повністю автоматизований MLOps

MLOps: найкращий відомий спосіб платити

Якщо ML — це кредитка технічного боргу з високими відсотками, то MLOps — найкращий спосіб його погашати.

MLOps може включати:

  • Автоматизоване тестування
  • Автоматизоване відстеження експериментів
  • Автоматизований моніторинг

Щоб мінімізувати технічний борг

Повністю автоматизований MLOps

Давайте потренуємось!

Повністю автоматизований MLOps

Preparing Video For Download...