Fasi del ciclo di vita

Deployment e ciclo di vita in MLOps

Nemanja Radojkovic

Senior Machine Learning Engineer

Cicli di vita nel Machine Learning

 

  1. Ciclo di vita del progetto ML
  2. Ciclo di vita dell'app ML
  3. Ciclo di vita del modello ML
Deployment e ciclo di vita in MLOps

Progetto ML semplice

Deployment e ciclo di vita in MLOps

Progetto ML con risultati

Deployment e ciclo di vita in MLOps

puro stimatore

Deployment e ciclo di vita in MLOps

app di ML

Deployment e ciclo di vita in MLOps

regole di business

Deployment e ciclo di vita in MLOps

database

Deployment e ciclo di vita in MLOps

interfaccia grafica utente

Deployment e ciclo di vita in MLOps

API

Deployment e ciclo di vita in MLOps

modello e app insieme

Deployment e ciclo di vita in MLOps

modello bloccato

Deployment e ciclo di vita in MLOps

separazione I

Deployment e ciclo di vita in MLOps

vola via

Deployment e ciclo di vita in MLOps

timeline separate

Deployment e ciclo di vita in MLOps

ciclo di vita app

Deployment e ciclo di vita in MLOps

ciclo di vita modello

Deployment e ciclo di vita in MLOps

siamo qui

Deployment e ciclo di vita in MLOps

Un modello è...

NON qualcosa di astratto e/o teorico

Un modello È

  • un modello concreto, addestrato
  • pronto all'uso
Deployment e ciclo di vita in MLOps

Deployment

 

  • Oggetto modello + risorse di deployment = pacchetto di deployment
  • Mettere in uso il modello = deployment

 

partenza del deployment

Deployment e ciclo di vita in MLOps

Monitoraggio del modello

 

  • Il server del modello è in esecuzione?
  • Input e output del modello sono come previsto?
  • Anche detto post-deployment monitoring

 

monitoraggio del modello

Deployment e ciclo di vita in MLOps

Disattivazione

 

spegni

 

Possibili motivi

  • Trovato un modello migliore
  • Create feature più informative
  • Il processo modellato è cambiato, invalidando il modello esistente

 

=> Via il vecchio, dentro il nuovo

Deployment e ciclo di vita in MLOps

Archiviazione del modello

  • Importante in settori regolamentati.

    Perché il tuo modello di rischio di credito ha dato il via libera a questo prestito nel 2020?

 

  • Riproducibilità: capacità di ricreare, ricaricare e usare una vecchia versione di un modello
    • Requisito non banale

 

archivio modelli

Deployment e ciclo di vita in MLOps

Esercitiamoci!

Deployment e ciclo di vita in MLOps

Preparing Video For Download...