Як команди MLOps досягають успіху

MLOps для бізнесу

Arne Jonas Warnke

Head of Emerging Curriculum

Обмежений вплив машинного навчання (у минулому)

Раніше компанії підходили до машинного навчання експериментально.

Серед проблем були:

  • Ізольованість команд
  • Моделі часто не доходили до продакшену
  • Довга розробка
  • Відсутність або мінімальна автоматизація
  • Брак відтворюваності

Чорно-біле фото людини перед комп'ютером 1980-х

MLOps для бізнесу

Як команди MLOps досягають успіху

$$

У цьому відео

  • Менше про технології
  • Погляд на успішні практики DevOps
MLOps для бізнесу

Нагадування: DevOps

Мета DevOps

  • Посилити співпрацю між розробниками й операторами

Розробка — це про

  • Поліпшення користувацького досвіду
  • Нові бізнес-вимоги

Операції прагнуть

  • Стабільності й підтримуваності

DevOps

1 Kim та ін. (2021). The DevOps handbook: How to create world-class agility, reliability, & security in technology organizations. IT Revolution.
MLOps для бізнесу

Типові практики DevOps

  • Безперервне постачання
    • Часті, малі й надійні релізи коду
    • Напр., постійне додавання малих функцій (або змін коду)
  • Автоматизація тестування та релізів
  • Моніторинг, легкі «відкоти»
  • Безперервна інтеграція

$$ Креслення випуску ПЗ

1 Leite та ін. (2019). A survey of DevOps concepts and challenges. ACM Computing Surveys (CSUR), 52(6), 1–35.
MLOps для бізнесу

Робота зі збоями

Коло DevOps $$ Синій екран

  • Цикли зворотного зв'язку
    • Автоматизовані тести
    • Раннє виявлення збоїв
  • Якщо щось пішло не так
    • Аналіз першопричин
    • «Беззвинувачувальні» постмортеми
    • Навчання, обмін знаннями, поліпшення
MLOps для бізнесу

Люди й команди

MLOps / DevOps — це про співпрацю

  • Компанії по-різному формують команди

$$

Спільні риси

  • Автономність
  • Узгоджені стимули
  • Цикли зворотного зв'язку й навчання
  • Довіра
  • Заохочення виваженого ризику

$$ Співпраця людей

MLOps для бізнесу

Експериментування

Прагніть високої якості через експерименти

  • A/B‑тестування (рандомізовані експерименти)
  • Навмисне ін'єктування збоїв

$$ Лабораторне випробування

MLOps для бізнесу

Давайте потренуємось!

MLOps для бізнесу

Preparing Video For Download...