Fáze životního cyklu

MLOps: nasazení a životní cyklus modelů

Nemanja Radojkovic

Senior Machine Learning Engineer

Životní cykly strojového učení

 

  1. Životní cyklus ML projektu
  2. Životní cyklus ML aplikace
  3. Životní cyklus ML modelu
MLOps: nasazení a životní cyklus modelů

ML projekt základ

MLOps: nasazení a životní cyklus modelů

ML projekt s výsledky

MLOps: nasazení a životní cyklus modelů

čistý estimátor

MLOps: nasazení a životní cyklus modelů

ML aplikace

MLOps: nasazení a životní cyklus modelů

obchodní pravidla

MLOps: nasazení a životní cyklus modelů

databáze

MLOps: nasazení a životní cyklus modelů

grafické uživatelské rozhraní

MLOps: nasazení a životní cyklus modelů

API

MLOps: nasazení a životní cyklus modelů

model a aplikace dohromady

MLOps: nasazení a životní cyklus modelů

uzamčený model

MLOps: nasazení a životní cyklus modelů

oddělení I

MLOps: nasazení a životní cyklus modelů

každý svou cestou

MLOps: nasazení a životní cyklus modelů

oddělené časové osy

MLOps: nasazení a životní cyklus modelů

životní cyklus aplikace

MLOps: nasazení a životní cyklus modelů

životní cyklus modelu

MLOps: nasazení a životní cyklus modelů

jsme zde

MLOps: nasazení a životní cyklus modelů

Model je...

NENÍ něco abstraktního a/nebo teoretického

Model JE

  • konkrétní, natrénovaný model
  • připravený k nasazení
MLOps: nasazení a životní cyklus modelů

Nasazení

 

  • Objekt modelu + prostředky pro nasazení = balíček pro nasazení modelu
  • Uvedení modelu do provozu = nasazení

 

start nasazení

MLOps: nasazení a životní cyklus modelů

Monitorování modelu

 

  • Běží server modelu?
  • Jsou vstupy a výstupy modelu v pořádku?
  • Také označováno jako monitorování po nasazení

 

monitorování modelu

MLOps: nasazení a životní cyklus modelů

Vyřazení z provozu

 

vypnutí

 

Možné důvody

  • Byl nalezen lepší model
  • Byly vytvořeny informativnější příznaky
  • Modelovaný proces se změnil a stávající model je neplatný

 

=> Starý pryč, nový nastupuje

MLOps: nasazení a životní cyklus modelů

Archivace modelu

  • Důležité v regulovaných odvětvích.

    Proč váš model kreditního rizika schválil tento úvěr v roce 2020?

 

  • Reprodukovatelnost: schopnost znovu vytvořit, načíst a použít starší verzi modelu
    • Není to triviální požadavek

 

archiv modelu

MLOps: nasazení a životní cyklus modelů

Pojďme si procvičit!

MLOps: nasazení a životní cyklus modelů

Preparing Video For Download...