Het moderne MLOps-framework

MLOps-deployments en levenscyclus

Nemanja Radojkovic

Senior Machine Learning Engineer

Over mij

Profielfoto

Senior Machine Learning Engineer
Ervaring met ontwikkelen, deployen en beheren van ML-modellen in productie
Huidige focus: ML-deployments en levenscyclus

¹ www.linkedin.com/in/radojkovic

Conceptuele cursus

JA: Begrip op hoofdlijnen

conceptueel stroomdiagram

NEE: Praktische skills

coderen hands-on

MLOps

Machine Learning Operations

Principes
Praktijken
Tools

Doel: ML-workflows en -services

Geautomatiseerd
Reproduceerbaar
Geïntegreerd

ops deel 1

ops deel 2

mlops vanaf dev

Hoofdstuk I

Waarde en noodzaak van MLOps

waarde

Fasen van de modellevenscyclus

levenscyclus

Onderdelen van het MLOps-framework

bouwstenen

alleen devops

devops met mlops

Hoge kosten zonder Ops

GEBRUIKELIJK STARTPUNT

Handmatige ML-workflows
Handmatige deployment
Ad-hoc monitoring

=> Ophoping van technische schuld

Technische schuld

de impliciete kosten van extra herwerk doordat je nu voor een makkelijke (beperkte) oplossing kiest in plaats van een betere aanpak die langer duurt

~ Wikipedia[1]

Bekend Google-paper over dit onderwerp:

"Machine Learning: The high-interest credit card of technical debt"[2]

MEER TIJD EN MODELLEN LIVE

Meer technische schuld en modelrisico
Proces trager, frustrerender en foutgevoeliger
Waardelevering wordt belemmerd

¹ https://en.wikipedia.org/wiki/Technical_debt ² https://research.google/pubs/pub43146/

ML-workflows

Dataverzameling en -voorbereiding
Datalabeling
Modelselectie
Modeltraining
Modelpackaging
Modeldeployment
Modelmonitoring en -onderhoud

ML-workflowautomatisering == MLOps-volwassenheid

MLOps geïmplementeerd

Geautomatiseerd
Snel
Reproduceerbaar
Uitlegbaar

we zijn hier

niet-lineair

lineair

spotlight 1

alle ogen op mij

Komt eraan!

Levenscyclus van modellen

levenscyclus

MLOps-architectuur

conceptueel stroomdiagram

Laten we oefenen!

MLOps-deployments en levenscyclus