Övervakning, omträning och ersättning av MLOps-applikationer

MLOps för företag

Arne Jonas Warnke

Head of Emerging Curriculum

Driftsättning av maskininlärningsmodeller

$$ Stegen i driftsfasen

MLOps för företag

Fördriftsättning

$$ Fördriftsättningsfasen

MLOps för företag

Fördriftsättning

  • Säkerställ att modeller ger samma resultat överallt
    • Inkluderar containerisering
  • Ytterligare kontroller
    • Säkerhet

$$

Vanligtvis uppgiften för

  • Mjukvaruingenjör eller maskininlärningsingenjör

$$

En bild på containers i en hamn

MLOps för företag

Driftsättning av MLOps-applikationen

$$ Driftsättningsfasen

MLOps för företag

Driftsättning av MLOps-applikationen

Driftsättning (via CI/CD)

  • Är till stor del automatiserad
  • Består av olika (automatiserade) tester
  • Gör det möjligt att snabbt återgå till tidigare ändringar

$$

Åter vanligtvis uppgiften för

  • Mjukvaruingenjör eller maskininlärningsingenjör

$$

En kvinna som tar emot en matleverans

MLOps för företag

Övervakning av MLOps-applikationen

Övervakningsfasen

MLOps för företag

Övervakning av MLOps-applikationen

Modellen är nu live och

  • Skapar affärsvärde
  • Driftstopp och problem är kostsamma
  • Behöver övervakas noggrant
    • Till stor del automatiserat

Om modellen misslyckas

  • Kan olika personer behöva kopplas in

Tänk på att modellkvaliteten försämras med tiden.

$$

Ett futuristiskt övervakningsrum

MLOps för företag

Omträning av maskininlärningsmodellerna

Omträningsfasen

MLOps för företag

Omträning av maskininlärningsmodellerna

Modellprestanda försämras vanligtvis

  • Ekonomiska förändringar
  • Kunder har förändrade preferenser

Detta kräver att vi tränar om modellerna regelbundet

  • Kan delvis automatiseras

Huvuduppgift för

  • Datavetare / maskininlärningsingenjör

$$

En bild på en cirkel

MLOps för företag

Nu kör vi en övning!

MLOps för företag

Preparing Video For Download...