Strategie di deployment del modello

Deployment e ciclo di vita in MLOps

Nemanja Radojkovic

Senior Machine Learning Engineer

Deployment riuscito!

  • App di ML in esecuzione
  • L'API gestisce migliaia di richieste/ora
  • Un mese dopo:
    • Nuove funzioni migliori trovate
    • Raccolto un nuovo batch di dati di training
    • Eseguita la pipeline di build del modello
    • Creato un nuovo pacchetto del modello
Deployment e ciclo di vita in MLOps

scambio

Deployment e ciclo di vita in MLOps

predizione offline

Deployment e ciclo di vita in MLOps

finestra di modifica

Deployment e ciclo di vita in MLOps

downtime real-time

Deployment e ciclo di vita in MLOps

downtime costoso

Deployment e ciclo di vita in MLOps

configurazione blue/green

Deployment e ciclo di vita in MLOps

con un clic

Deployment e ciclo di vita in MLOps

termine blue/green

Deployment e ciclo di vita in MLOps

vantaggi e svantaggi

Deployment e ciclo di vita in MLOps

rollback

Deployment e ciclo di vita in MLOps

canary deployment

Deployment e ciclo di vita in MLOps

split delle richieste

Deployment e ciclo di vita in MLOps

passo due

Deployment e ciclo di vita in MLOps

risultato finale

Deployment e ciclo di vita in MLOps

Deployment e ciclo di vita in MLOps

validazione

Deployment e ciclo di vita in MLOps

svantaggio

Deployment e ciclo di vita in MLOps

mitigazione del rischio

Deployment e ciclo di vita in MLOps

Esercitiamoci!

Deployment e ciclo di vita in MLOps

Preparing Video For Download...