Nowoczesny framework MLOps

Wdrażanie i cykl życia modeli MLOps

Nemanja Radojkovic

Senior Machine Learning Engineer

O mnie

Zdjęcie profilowe

Starszy inżynier Machine Learning
Doświadczenie w tworzeniu, wdrażaniu i utrzymaniu modeli ML na produkcji
Obecny obszar: wdrażanie modeli i zarządzanie ich cyklem życia

¹ www.linkedin.com/in/radojkovic

Kurs koncepcyjny

TAK: Zrozumienie koncepcji

schemat koncepcyjny

NIE: Umiejętności praktyczne

kodowanie praktyczne

MLOps

Operacje na uczeniu maszynowym

Zasady
Praktyki
Narzędzia

Cel: przepływy i usługi ML

Zautomatyzowane
Powtarzalne
Zintegrowane

ops część 1

ops część 2

mlops od dewelopera

Rozdział I

Wartość i konieczność MLOps

wartość

Etapy cyklu życia modelu

cykl życia

Komponenty frameworku MLOps

elementy składowe

tylko devops

devops z mlops

Wysoki koszt ML bez Ops

TYPOWY PUNKT WYJŚCIA

Ręczne przepływy ML
Ręczne wdrażanie
Monitoring ad hoc

=> Narastanie długu technicznego

Dług techniczny

domniemany koszt dodatkowych poprawek wynikający z wyboru łatwego (ograniczonego) rozwiązania teraz zamiast lepszego podejścia, które zajęłoby więcej czasu

~ Wikipedia[1]

Słynna publikacja Google na ten temat:

"Machine Learning: The high-interest credit card of technical debt"[2]

WIĘCEJ CZASU I WDROŻONYCH MODELI

Większy dług techniczny i ryzyko modelu
Wolniejszy, bardziej frustrujący i podatny na błędy proces
Ograniczona zdolność dostarczania wartości

¹ https://en.wikipedia.org/wiki/Technical_debt ² https://research.google/pubs/pub43146/

Przepływy ML

Zbieranie i przygotowanie danych
Etykietowanie danych
Dobór modelu
Trening modelu
Pakowanie modelu
Wdrażanie modelu
Monitoring i utrzymanie modelu

Automatyzacja przepływów ML == dojrzałość MLOps

MLOps w praktyce

Zautomatyzowane
Szybkie
Powtarzalne
Wytłumaczalne

jesteśmy tutaj

nieliniowy

liniowy

w centrum uwagi 1

wszystkie oczy na mnie

Nadchodzi!

Cykl życia modelu

cykl życia

Architektura MLOps

schemat koncepcyjny

Czas na ćwiczenia!

Wdrażanie i cykl życia modeli MLOps