Monitorování a upozornění

MLOps: nasazení a životní cyklus modelů

Nemanja Radojkovic

Senior Machine Learning Engineer

vnější svět

MLOps: nasazení a životní cyklus modelů

chyby ve službě

MLOps: nasazení a životní cyklus modelů

zachycení chyb

MLOps: nasazení a životní cyklus modelů

mnoho pohyblivých částí

MLOps: nasazení a životní cyklus modelů

místa selhání 2

MLOps: nasazení a životní cyklus modelů

upozornění

MLOps: nasazení a životní cyklus modelů

podívejte se sem

MLOps: nasazení a životní cyklus modelů

logování 1

MLOps: nasazení a životní cyklus modelů

logování 2

MLOps: nasazení a životní cyklus modelů

logování 3

MLOps: nasazení a životní cyklus modelů

datový pipeline 1

MLOps: nasazení a životní cyklus modelů

validace dat 2

MLOps: nasazení a životní cyklus modelů

validace datových profilů

MLOps: nasazení a životní cyklus modelů

Statistická validace

Může být:

  • příliš citlivá
  • málo informativní

 

Riziko

  • Příliš mnoho upozornění
  • „Únava z upozornění"
  • Důležitá upozornění uniknou pozornosti
MLOps: nasazení a životní cyklus modelů

informovat všechny

MLOps: nasazení a životní cyklus modelů

Učte se z historie

Po vyřešení incidentu => Zaznamenejte příčinu a kroky k nápravě

Příklad od Googlu[1]:

  • 10 let zaznamenaných a analyzovaných incidentů
  • > 2/3 nesouviselo s ML!
1 How ML Breaks: A Decade of Outages for One Large ML Pipeline, https://www.usenix.org/conference/opml20/presentation/papasian
MLOps: nasazení a životní cyklus modelů

centralizované monitorování

MLOps: nasazení a životní cyklus modelů

Pojďme si procvičit!

MLOps: nasazení a životní cyklus modelů

Preparing Video For Download...