Il framework MLOps moderno

Deployment e ciclo di vita in MLOps

Nemanja Radojkovic

Senior Machine Learning Engineer

Chi sono

 

Foto profilo

 

  • Senior Machine Learning Engineer
  • Esperienza nello sviluppo, rilascio e mantenimento di modelli di Machine Learning in produzione
  • Focus attuale: deploy ML e ciclo di vita
1 www.linkedin.com/in/radojkovic
Deployment e ciclo di vita in MLOps

Corso concettuale

SÌ: Comprensione ad alto livello

diagramma concettuale di flusso

NO: Competenze pratiche

codifica pratica

Deployment e ciclo di vita in MLOps

MLOps

Machine Learning Operations

  • Principi
  • Pratiche
  • Strumenti

Obiettivo: workflow e servizi ML

  • Automatizzati
  • Riproducibili
  • Integrati
Deployment e ciclo di vita in MLOps

ops parte 1

Deployment e ciclo di vita in MLOps

ops parte 2

Deployment e ciclo di vita in MLOps

mlops da dev

Deployment e ciclo di vita in MLOps

Capitolo I

Valore e necessità di MLOps

valore

Fasi del ciclo di vita del modello

ciclo di vita

 

Componenti del framework MLOps

mattoncini

Deployment e ciclo di vita in MLOps

solo devops

Deployment e ciclo di vita in MLOps

devops con mlops

Deployment e ciclo di vita in MLOps

Alto costo del ML senza Ops

 

PUNTO DI PARTENZA USUALE

  • Workflow ML manuali
  • Deploy manuale
  • Monitoraggio ad hoc

 

=> Accumulo di debito tecnico

Deployment e ciclo di vita in MLOps

Debito tecnico

il costo implicito di ulteriore rilavorazione causato dallo scegliere ora una soluzione facile (limitata) invece di un approccio migliore che richiederebbe più tempo

~ Wikipedia[1]

 

Famoso paper di Google sul tema:

"Machine Learning: The high-interest credit card of technical debt"[2]

 

PIÙ TEMPO E MODELLI IN PRODUZIONE

  • Più debito tecnico e rischio di modello
  • Processo più lento, frustrante e soggetto a errori
  • Capacità di generare valore ridotta
1 https://en.wikipedia.org/wiki/Technical_debt 2 https://research.google/pubs/pub43146/
Deployment e ciclo di vita in MLOps

Workflow ML

  • Raccolta e preparazione dati
  • Data-labeling
  • Selezione del modello
  • Training del modello
  • Packaging del modello
  • Deploy del modello
  • Monitoraggio e manutenzione del modello

 

Automazione dei workflow ML == maturità MLOps

Deployment e ciclo di vita in MLOps

MLOps implementato

  • Automatizzato
  • Veloce
  • Riproducibile
  • Spiegabile
Deployment e ciclo di vita in MLOps

siamo qui

Deployment e ciclo di vita in MLOps

non lineare

Deployment e ciclo di vita in MLOps

lineare

Deployment e ciclo di vita in MLOps

riflettori 1

Deployment e ciclo di vita in MLOps

tutti gli occhi su di me

Deployment e ciclo di vita in MLOps

Deployment e ciclo di vita in MLOps

In arrivo!

 

Ciclo di vita dei modelli

ciclo di vita

Architettura MLOps

diagramma concettuale di flusso

Deployment e ciclo di vita in MLOps

Esercitiamoci!

Deployment e ciclo di vita in MLOps

Preparing Video For Download...