Referenční architektura: Plně automatizovaný MLOps

Plně automatizované MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

Co je referenční architektura?

Referenční architektura je šablona pro návrh řešení v různých oblastech IT.

Sada dokumentů obsahující:

Struktury a integrace IT prvků
Vzory běžně přítomné v IT systémech, včetně ML systémů
Využívá zkušenosti a osvědčené postupy z praxe

Plně automatizovaná architektura MLOps

Celkový přehled plně automatizované referenční architektury MLOps.

¹ https://cloud.google.com/architecture/mlops-continuous-delivery-and-automation-pipelines-in-machine-learning

Referenční architektura – Orchestrované experimenty

Celkový přehled plně automatizované referenční architektury MLOps. Obrázek se přiblíží na sadu propojených polí: analýza dat, orchestrovaný experiment, zdrojový kód, repozitář zdrojového kódu.

Referenční architektura – Zdrojový kód a CI

Obrázek se posouvá doleva a zobrazuje blok průběžné integrace za repozitářem zdrojového kódu. Tento blok obsahuje sestavovací pole, jehož výstupem jsou balíčky.

Referenční architektura – Artefakty a CD

Obrázek se posouvá dolů a zobrazuje pole průběžného doručování.

Referenční architektura – Nasazení ML pipeline

Obrázek se posouvá doleva a zobrazuje automatizovaný ML pipeline s kroky: extrakce dat, validace dat, příprava dat, trénování modelu, vyhodnocení modelu, validace modelu.

Referenční architektura – Úložiště metadat

Obrázek se posouvá dolů a zobrazuje úložiště metadat shromažďující logy generované ML pipeline.

Referenční architektura – Registr modelů

Obrázek se posouvá nahoru a doprava a zobrazuje, jak jsou modely trénované ML pipeline ukládány do registru modelů.

Referenční architektura – Predikční služby

Obrázek se posouvá dolů a zobrazuje, jak jsou modely průběžně doručovány do modulu predikční služby v architektuře.

Referenční architektura – Průběžné monitorování

Obrázek se posouvá doleva a zobrazuje komponentu průběžného monitorování, která sleduje výkon predikcí predikční služby.

Referenční architektura – Automatický spouštěč

Obrázek se posouvá dále doleva a zobrazuje komponentu spouštěče propojenou s modulem monitorování výkonu.

Referenční architektura – Automatické přetrénování

Obrázek se posouvá nahoru a zobrazuje, jak spouštěč aktivuje automatizovaný ML pipeline v systému.