Бізнес-виклики та ризики, пов'язані з MLOps

MLOps для бізнесу

Arne Jonas Warnke

Head of Emerging Curriculum

Порядок денний розділу 3

Відео Business challenges and risks related to MLOps:

  • Business challenges and risks related to MLOps

$$

Відео How MLOps teams successfully operate:

  • How MLOps teams successfully operate

$$

Відео The state of MLOps today

  • The state of MLOps today
MLOps для бізнесу

MLOps — це складно

$$ Багато компаній мають труднощі

  • З операціоналізацією
  • З автоматизацією розробки та дизайну
  • З упорядкуванням і масштабуванням

своїх ML-кейсів

$$

Виклик

MLOps для бізнесу

MLOps потребує різних навичок

MLOps на перетині Machine Learning, Data Engineering та Software Engineering

MLOps для бізнесу

Виклики MLOps: навички

Командам часто бракує

  • Певних ключових навичок
    • Здебільшого з software engineering

$$

Це може призвести до

  • Технічної заборгованості
  • Відсутності стандартизації
  • Низької відтворюваності

Люди спільно розв'язують пазл

MLOps для бізнесу

Виклики MLOps: співпраця та культура

Співпраця критично важлива, щоб

  • Узгодити статистичні метрики з бізнесом
  • Усі стейкґолдери розуміли, як працюють команди MLOps

$$

Культура та звички

  • Постійне навчання
  • Визнання, що збої трапляються
  • Документація та обмін знаннями

$$

Люди співпрацюють перед комп'ютером

MLOps для бізнесу

Виклики MLOps: технології

Технології

  • Швидко змінюються
  • Немає спільного стеку інструментів MLOps
    • Різні команди застосовують дуже різні підходи
    • Мало загальновизнаних технічних практик

$$

Типова помилка

  • Надмірний фокус на технологіях

$$ Інтелектуальний граф мережі

MLOps для бізнесу

Виклики MLOps: ризики

Ризики експлуатації моделей машинного навчання:

  • Бізнесові та фінансові ризики
    • Застосунок/модель може бути недоступною
    • Якість передбачень може погіршитися
    • Ризики супроводу
  • Ризики управління
    • Передбачення може бути зовсім хибним
    • Можлива упередженість
  • Ризики (кібер)безпеки

$$

Ілюстрація різних ризиків

MLOps для бізнесу

Традиційні софтпроєкти vs. MLOps

Традиційне ПЗ

  • Тестування, налагодження ...

MLOps

  • Тестування, налагодження ...
  • Моніторинг даних
  • Моніторинг виходів моделі
  • ...

$$ Людина пише код

$$ Гібрид людини й робота пише код

MLOps для бізнесу

Давайте потренуємось!

MLOps для бізнесу

Preparing Video For Download...