Monitoraggio e avvisi

Deployment e ciclo di vita in MLOps

Nemanja Radojkovic

Senior Machine Learning Engineer

mondo esterno

Deployment e ciclo di vita in MLOps

bug nel servizio

Deployment e ciclo di vita in MLOps

caccia ai bug

Deployment e ciclo di vita in MLOps

molti pezzi in movimento

Deployment e ciclo di vita in MLOps

punti di guasto 2

Deployment e ciclo di vita in MLOps

avviso

Deployment e ciclo di vita in MLOps

guarda qui

Deployment e ciclo di vita in MLOps

log dettagliati 1

Deployment e ciclo di vita in MLOps

log dettagliati 2

Deployment e ciclo di vita in MLOps

log dettagliati 3

Deployment e ciclo di vita in MLOps

pipeline dati 1

Deployment e ciclo di vita in MLOps

validazione dati 2

Deployment e ciclo di vita in MLOps

profili dati validazione

Deployment e ciclo di vita in MLOps

Validazione statistica

Può essere:

  • troppo sensibile
  • poco informativa

 

Rischi

  • Troppi avvisi
  • "Affaticamento da avvisi"
  • Avvisi importanti passano inosservati
Deployment e ciclo di vita in MLOps

informa tutti

Deployment e ciclo di vita in MLOps

Impara dalla tua storia

Dopo aver gestito l'incidente => Registra causa radice e passi di risoluzione

Esempio da Google[1]:

  • 10 anni di incidenti registrati e analizzati
  • > 2/3 non erano legati all'ML!
1 How ML Breaks: A Decade of Outages for One Large ML Pipeline, https://www.usenix.org/conference/opml20/presentation/papasian
Deployment e ciclo di vita in MLOps

monitoraggio centralizzato

Deployment e ciclo di vita in MLOps

Esercitiamoci!

Deployment e ciclo di vita in MLOps

Preparing Video For Download...