Referensarkitektur: Fullt automatiserad MLOps

Fullt automatiserad MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

Vad är en referensarkitektur?

En referensarkitektur är en mall för att utforma lösningar inom olika IT-områden.

En uppsättning dokument med:

Strukturer och integrationer av IT-komponenter
Mönster som är vanliga i IT-system, inklusive ML-system
Drar nytta av erfarenhet och bästa praxis från branschen

Fullt automatiserad MLOps-arkitektur

En bild med en övergripande vy av referensarkitekturen för fullt automatiserad MLOps.

¹ https://cloud.google.com/architecture/mlops-continuous-delivery-and-automation-pipelines-in-machine-learning

Referensarkitektur – Orkestrerade experiment

En bild med en övergripande vy av referensarkitekturen för fullt automatiserad MLOps. Bilden zoomar in på ett antal sammankopplade rutor. Från vänster till höger: dataanalys, orkestrerat experiment, källkod, källkodsförråd.

Referensarkitektur – Källkod och CI

Bilden förskjuts åt vänster. Efter källkodsförrådet visas ett block för kontinuerlig integration. Detta block har en build-ruta som producerar paket som utdata.

Referensarkitektur – Artefakter och CD

Bilden förskjuts nedåt för att visa ett block för kontinuerlig leverans.

Referensarkitektur – Driftsättning av ML-pipeline

Bilden förskjuts åt vänster för att visa en automatiserad ML-pipeline med olika steg: datautvinning, datavalidering, dataförberedelse, modellträning, modellutvärdering, modellvalidering.

Referensarkitektur – Metadatalagret

Bilden förskjuts nedåt för att visa metadatalagret som samlar in loggar genererade av ML-pipelinen.

Referensarkitektur – Modellregistret

Bilden förskjuts uppåt och åt höger för att visa att modeller tränade av ML-pipelinen skickas till ett modellregister.

Referensarkitektur – Prediktionstjänster

Bilden förskjuts nedåt för att visa att modeller tränade av ML-pipelinen kontinuerligt levereras till en prediktionstjänstmodul i arkitekturen.

Referensarkitektur – Kontinuerlig övervakning

Bilden förskjuts åt vänster för att visa en prestandaövervakningskomponent som spårar prestandan hos de prediktioner som levereras av prediktionstjänsten.

Referensarkitektur – Automatiserad trigger

Bilden förskjuts ytterligare åt vänster för att visa en triggerkomponent kopplad till prestandaövervakningsmodulen.

Referensarkitektur – Automatiserad omträning

Bilden förskjuts uppåt för att visa att triggern kan aktivera den automatiserade ML-pipelinen i systemet.