Plná automatizace a osvědčené postupy v MLOps

Plně automatizované MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

Životní cyklus MLOps

Obrázek životního cyklu MLOps. Tři propojené kruhové cykly. Názvy jednotlivých kruhů zleva doprava: Návrh, Vývoj, Nasazení.

Plně automatizované MLOps

Úrovně vyspělosti v MLOps

$$

Úrovně vyspělosti zahrnují:

  • Manuální ML workflow

  • Částečně automatizovaný ML workflow

  • Plně automatizovaný ML workflow

Plně automatizované MLOps

Manuální ML workflow – Ad hoc experimentování

Obrázek znázorňující, jak jsou modely ručně přesouvány z vývoje do produkce pomocí manuálního procesu.

Plně automatizované MLOps

Částečně automatizovaný ML workflow

Obrázek dat přiváděných do orchestrovaného experimentálního pipeline.

Plně automatizované MLOps

Částečně automatizovaný ML workflow

Předchozí obrázek je rozšířen o kód odesílaný do zdrojového repozitáře a úložiště příznaků, které dodává data do systému.

Plně automatizované MLOps

Částečně automatizovaný ML workflow

Předchozí obrázek je rozšířen o komponentu nasazení, která zavádí automatizované ML pipeline v architektuře. Úložiště metadat ML navíc přijímá metadata generovaná automatizovaným pipeline.

Plně automatizované MLOps

Částečně automatizovaný ML workflow

Předchozí architektura je rozšířena. Modely vytvořené automatizovaným pipeline jsou ukládány do registru modelů, který je předává modulu pro obsluhu modelů. Tento modul je propojen s predikční službou v architektuře.

Plně automatizované MLOps

Částečně automatizovaný ML workflow

Modul predikční služby v architektuře je propojen s komponentou sledování výkonu, která je napojena na automatizovaný spouštěč. Ten může spustit automatizovaný pipeline v systému.

Plně automatizované MLOps

Plně automatizovaný ML workflow

Obrázek znázorňující přehled plně automatizované referenční architektury MLOps na vysoké úrovni.

Plně automatizované MLOps

Automatizace v životním cyklu ML – Návrh

Tabulka znázorňující, že aktivity ve fázi návrhu a plánování nelze automatizovat.

Osvědčené postupy:

  • Používejte reprodukovatelné procesy
  • Pište podrobnou dokumentaci
Plně automatizované MLOps

Automatizace v životním cyklu ML – Vývoj

Tabulka znázorňující, že ne všechny aktivity ve fázi vývoje lze automatizovat.

Osvědčené postupy:

  • Pamatujte, že vyvíjíme software
  • Používejte správu verzí
  • Používejte nástroje pro orchestraci
Plně automatizované MLOps

Automatizace v životním cyklu ML – Provoz

Tabulka znázorňující, že aktivity ve fázi provozu jsou z velké části automatizovatelné.

Používejte:

  • Automatizované testování
  • CI/CD/CT/CM
Plně automatizované MLOps

Pojďme si procvičit!

Plně automatizované MLOps

Preparing Video For Download...