Introduktion till full automatisering och bästa praxis inom MLOps

Fullt automatiserad MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

MLOps-livscykeln

Bild av MLOps-livscykeln. Tre cirkelcykler sammankopplade med varandra. Cirklarnas namn från vänster till höger är: Design, Utveckling, Driftsättning.

Fullt automatiserad MLOps

Mognadsnivåer inom MLOps

$$

Mognadsniåerna inkluderar:

  • Manuellt ML-arbetsflöde

  • Halvautomatiserat ML-arbetsflöde

  • Fullt automatiserat ML-arbetsflöde

Fullt automatiserad MLOps

Manuellt ML-arbetsflöde – ad hoc-experiment

En bild som illustrerar hur modeller levereras manuellt från utveckling till produktion via en manuell process.

Fullt automatiserad MLOps

Halvautomatiserat ML-arbetsflöde

Bild av data som matas in i en orkestrerad experimentpipeline.

Fullt automatiserad MLOps

Halvautomatiserat ML-arbetsflöde

Den tidigare bilden är utökad med kod som skickas till ett källkodsförråd och ett särdragsarkiv som matar data till systemet.

Fullt automatiserad MLOps

Halvautomatiserat ML-arbetsflöde

Den tidigare bilden är utökad med en driftsättningskomponent som distribuerar automatiserade ML-pipelines i arkitekturen. Ett ML-metadatalager tar emot metadata som genereras av den automatiserade pipelinen.

Fullt automatiserad MLOps

Halvautomatiserat ML-arbetsflöde

Det tidigare arkitekturen är utökad. Modeller som produceras av den automatiserade pipelinen skickas till ett modellregister som i sin tur levererar modeller till en modellserveringsmodul. Modellserveringsmodulen är kopplad till en predikatstjänst i arkitekturen.

Fullt automatiserad MLOps

Halvautomatiserat ML-arbetsflöde

Predikatstjänstmodulen i arkitekturen är kopplad till en prestandaövervakningskomponent som i sin tur är kopplad till en automatiserad utlösare. Den automatiserade utlösaren kan starta den automatiserade pipelinen i systemet.

Fullt automatiserad MLOps

Fullt automatiserat ML-arbetsflöde

En bild med en övergripande vy av det fullt automatiserade referensarkitekturen för MLOps.

Fullt automatiserad MLOps

Automatisering i ML-livscykeln – Design

En tabell som illustrerar att aktiviteterna i design- och planeringsfasen inte går att automatisera.

Bra metoder:

  • Tillämpa reproducerbara processer
  • Skriv detaljerad dokumentation
Fullt automatiserad MLOps

Automatisering i ML-livscykeln – Utveckling

En tabell som illustrerar att aktiviteterna i utvecklingsfasen inte alla går att automatisera.

Bra metoder:

  • Kom ihåg att vi utvecklar mjukvara
  • Använd versionshantering
  • Använd orkestreringsverktyg
Fullt automatiserad MLOps

Automatisering i ML-livscykeln – Drift

En tabell som illustrerar att aktiviteterna i driftsfasen till stor del går att automatisera.

Använd:

  • Automatiserad testning
  • CI/CD/CT/CM
Fullt automatiserad MLOps

Nu kör vi en övning!

Fullt automatiserad MLOps

Preparing Video For Download...