Моніторинг і оповіщення

Розгортання та життєвий цикл MLOps

Nemanja Radojkovic

Senior Machine Learning Engineer

зовнішній світ

Розгортання та життєвий цикл MLOps

помилки у сервісі

Розгортання та життєвий цикл MLOps

виявлення помилок

Розгортання та життєвий цикл MLOps

багато рухомих частин

Розгортання та життєвий цикл MLOps

точки відмови 2

Розгортання та життєвий цикл MLOps

сповіщення

Розгортання та життєвий цикл MLOps

подивіться тут

Розгортання та життєвий цикл MLOps

логування 1

Розгортання та життєвий цикл MLOps

логування 2

Розгортання та життєвий цикл MLOps

логування 3

Розгортання та життєвий цикл MLOps

конвеєр даних 1

Розгортання та життєвий цикл MLOps

валідація даних 2

Розгортання та життєвий цикл MLOps

профілі даних — валідація

Розгортання та життєвий цикл MLOps

Статистична валідація

Може бути:

  • надто чутливим
  • недостатньо інформативним

 

Ризики

  • Забагато сповіщень
  • «Втома від сповіщень»
  • Важливі сигнали лишаються непоміченими
Розгортання та життєвий цикл MLOps

проінформувати всіх

Розгортання та життєвий цикл MLOps

Вчіться на власній історії

Після усунення інциденту ⇒ Запишіть першопричину та кроки розв'язання

Приклад від Google[1]:

  • 10 років інцидентів задокументовано й проаналізовано
  • > 2/3 не були пов'язані з ML!
1 How ML Breaks: A Decade of Outages for One Large ML Pipeline, https://www.usenix.org/conference/opml20/presentation/papasian
Розгортання та життєвий цикл MLOps

централізований моніторинг

Розгортання та життєвий цикл MLOps

Давайте потренуємось!

Розгортання та життєвий цикл MLOps

Preparing Video For Download...