Det moderna MLOps-ramverket

MLOps-driftsättning och livscykelhantering

Nemanja Radojkovic

Senior Machine Learning Engineer

Om mig

 

Profilbild

 

  • Senior maskininlärningsingenjör
  • Erfarenhet av att utveckla, driftsätta och underhålla maskininlärningsmodeller i produktion
  • Nuvarande fokus: ML-driftsättning och livscykelhantering
1 www.linkedin.com/in/radojkovic
MLOps-driftsättning och livscykelhantering

Konceptuell kurs

JA: Konceptuell förståelse

konceptuellt flödesschema

NEJ: Praktiska färdigheter

praktisk kodning

MLOps-driftsättning och livscykelhantering

MLOps

Machine Learning Operations

  • Principer
  • Metoder
  • Verktyg

Mål: ML-arbetsflöden och tjänster

  • Automatiserade
  • Reproducerbara
  • Integrerade
MLOps-driftsättning och livscykelhantering

ops del 1

MLOps-driftsättning och livscykelhantering

ops del 2

MLOps-driftsättning och livscykelhantering

mlops från dev

MLOps-driftsättning och livscykelhantering

Kapitel I

Värdet och nyttan med MLOps

värde

Modellens livscykelsteg

livscykel

 

Komponenter i MLOps-ramverket

byggblock

MLOps-driftsättning och livscykelhantering

devops enbart

MLOps-driftsättning och livscykelhantering

devops med mlops

MLOps-driftsättning och livscykelhantering

Den höga kostnaden för ML utan Ops

 

VANLIG UTGÅNGSPUNKT

  • Manuella ML-arbetsflöden
  • Manuell driftsättning
  • Ad hoc-övervakning

 

=> Ackumulering av teknisk skuld

MLOps-driftsättning och livscykelhantering

Teknisk skuld

den underförstådda kostnaden för extra omarbetning som uppstår när man väljer en enkel (begränsad) lösning nu i stället för ett bättre angreppssätt som skulle ta längre tid

~ Wikipedia[1]

 

Känt Google-paper om ämnet:

"Machine Learning: The high-interest credit card of technical debt"[2]

 

MER TID OCH FLER DRIFTSATTA MODELLER

  • Mer teknisk skuld och modellrisk
  • Långsammare processer, mer frustration och fler fel
  • Försämrad förmåga att leverera värde
1 https://en.wikipedia.org/wiki/Technical_debt 2 https://research.google/pubs/pub43146/
MLOps-driftsättning och livscykelhantering

ML-arbetsflöden

  • Datainsamling och -förberedelse
  • Datamärkning
  • Modellval
  • Modellträning
  • Modellpaketering
  • Modelldriftsättning
  • Modellövervakning och underhåll

 

Automatisering av ML-arbetsflöden == MLOps-mognad

MLOps-driftsättning och livscykelhantering

MLOps i praktiken

  • Automatiserat
  • Snabbt
  • Reproducerbart
  • Förklarbart
MLOps-driftsättning och livscykelhantering

vi är här

MLOps-driftsättning och livscykelhantering

icke-linjär

MLOps-driftsättning och livscykelhantering

linjär

MLOps-driftsättning och livscykelhantering

spotlight 1

MLOps-driftsättning och livscykelhantering

allt fokus på mig

MLOps-driftsättning och livscykelhantering

MLOps-driftsättning och livscykelhantering

Härnäst!

 

Modellens livscykelhantering

livscykel

MLOps-arkitektur

konceptuellt flödesschema

MLOps-driftsättning och livscykelhantering

Nu kör vi en övning!

MLOps-driftsättning och livscykelhantering

Preparing Video For Download...