Orkestrering i MLOps

Fullt automatiserad MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

En central komponent i MLOps-system

Bild av MLOps-referensarkitekturen med två markerade delar: orkestrerade experiment i utvecklingsmiljön och den automatiserade pipelinen i produktion.

Fullt automatiserad MLOps

Modularitet och återanvändbarhet

Figur med två ML-pipelines, en övre och en undre. Den övre pipelinen är i utvecklings- och experimenteringsmiljön och den undre i produktion.

Fullt automatiserad MLOps

Orkestrering och automatisering

ML-pipelines används i:

  • Utveckling och experimentering

Figur av en komponent: orkestrerat experiment.

  • Produktion

Figur av en automatiserad ML-pipeline.

Fullt automatiserad MLOps

Directed Acyclic Graphs i MLOps

$$

  • Grafiska pipelinerepresentationer
  • Steg i pipelinen representeras som noder
  • Beroenden mellan steg är kanter

Bild av ett enkelt DAG med sammankopplade steg i en ML-pipeline.

Fullt automatiserad MLOps

Vad är orkestrering i MLOps?

$$

  • Hantera och automatisera arbetsflöden

$$

  • Schemaläggning och övervakning av uppgifter

$$

  • Hantera databeroenden och dataflöden
Fullt automatiserad MLOps

ML-pipelines – utveckling och experimentering

Figur av en orkestrerad ML-pipeline i utvecklings- och experimenteringsmiljön. Pipelinen utlöses av en datavetare och orkesteras av en orkestreringskomponent.

  • Hanterar hela modellträningsflödet från start till slut
  • Korrekt flöde, dokumentation och loggning
  • Parallell experimentering
Fullt automatiserad MLOps

ML-pipelines – produktion

Figur av en automatiserad ML-pipeline i produktionsmiljön. Pipelinen utlöses av en automatisk utlösarkomponent och orkesteras av en orkestreringskomponent.

  • Underlättar automatisering av modelldriftsättning
  • Hanterar och kör pipelinesteg
  • Konsekvent och tillförlitlig driftsättning
Fullt automatiserad MLOps

Nu kör vi en övning!

Fullt automatiserad MLOps

Preparing Video For Download...