Moderní rámec MLOps

MLOps: nasazení a životní cyklus modelů

Nemanja Radojkovic

Senior Machine Learning Engineer

O mně

Profilová fotografie

Senior inženýr strojového učení
Zkušenosti s vývojem, nasazením a údržbou modelů strojového učení v produkci
Aktuální zaměření: nasazování a životní cyklus modelů ML

¹ www.linkedin.com/in/radojkovic

Koncepční kurz

ANO: Koncepční porozumění

konceptuální vývojový diagram

NE: Praktické dovednosti

praktické programování

MLOps

Operace strojového učení

Principy
Postupy
Nástroje

Cíl: pracovní postupy a služby ML

Automatizované
Reprodukovatelné
Integrované

ops část 1

ops část 2

mlops z vývoje

Kapitola I

Hodnota a nutnost MLOps

hodnota

Fáze životního cyklu modelu

životní cyklus

Komponenty rámce MLOps

stavební bloky

pouze devops

devops s mlops

Vysoké náklady ML bez Ops

OBVYKLÝ VÝCHOZÍ BOD

Manuální pracovní postupy ML
Manuální nasazení
Ad hoc monitoring

=> Hromadění technického dluhu

Technický dluh

implicitní náklady na dodatečné přepracování způsobené volbou snadného (omezeného) řešení nyní místo lepšího přístupu, který by trval déle

~ Wikipedia[1]

Slavný článek Google na toto téma:

"Machine Learning: The high-interest credit card of technical debt"[2]

VÍCE ČASU A NASAZENÝCH MODELŮ

Více technického dluhu a rizik modelu
Procesy pomalejší, frustrující a náchylné k chybám
Snížená schopnost přinášet hodnotu

¹ https://en.wikipedia.org/wiki/Technical_debt ² https://research.google/pubs/pub43146/

Pracovní postupy ML

Sběr a příprava dat
Anotace dat
Výběr modelu
Trénování modelu
Balení modelu
Nasazení modelu
Monitoring a údržba modelu

Automatizace ML procesů == vyspělost MLOps

MLOps v praxi

Automatizované
Rychlé
Reprodukovatelné
Vysvětlitelné

jsme zde

nelineární

lineární

reflektor 1

všechny oči na mně

Co nás čeká!

Životní cyklus modelu

životní cyklus

Architektura MLOps

konceptuální vývojový diagram

Pojďme si procvičit!

MLOps: nasazení a životní cyklus modelů