Introduzione all’MLOps completamente automatizzato

MLOps completamente automatizzato

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

MLOps in ambito industriale

Quali obiettivi comuni hanno le aziende con il machine learning?

Sviluppare strumenti e prodotti ML che usano i dati per
- Servire meglio i clienti
- Ottimizzare i processi

Immagine che mostra come un’azienda può usare sistemi di machine learning per migliorare processi interni o servizi ai clienti.

Ottimizzare la generazione di valore

Le aziende puntano a massimizzare i profitti

Il machine learning può aumentare la redditività
Analizzando costi e ricavi, un’azienda può stimare i profitti potenziali
Distribuire il numero giusto di casi d’uso ML può generare profitti

Grafico con una curva. Sull’asse x, numero di progetti di machine learning. Sull’asse y, ricavi generati. La curva cresce fino a un plateau a 6 progetti e ~25 milioni. Dopo il plateau, i ricavi calano senza più crescere.

Costi nello sviluppo software

Costi previsti in un progetto software tradizionale:

Costi di sviluppo
Project management
UI/UX design
Quality assurance

Debito tecnico nello sviluppo software

Debito tecnico o di design:

Costo del rework causato da un cattivo design

Disegno di due ingegneri davanti a una casa costruita male. Uno dice all’altro: "Non capisco perché ci vuole così tanto ad aggiungere una nuova finestra."

¹ https://vincentdnl.com/drawings/

Debito tecnico nascosto nei sistemi ML

Machine Learning: "La carta di credito a interessi alti del debito tecnico"[1].

Il debito tecnico nascosto può riguardare:

I dati usati per addestrare i modelli ML
I modelli che alimentano il sistema ML
L’infrastruttura usata dal sistema ML
Il monitoraggio del sistema ML

¹ https://research.google/pubs/pub43146/

Costi dei progetti di machine learning

Profitto ridotto a causa del debito tecnico nei sistemi ML: $$ $$

Immagine con due grafici, ciascuno con una curva. Nel primo, il ricavo stimato è di $25M. Nel secondo, il ricavo è ridotto a $10M.

La carta di credito a interessi alti del debito tecnico

I sistemi ML possono essere complessi e diventare ingestibili.

Immagine che mostra i molti componenti di un sistema ML. Il codice ML è un piccolo elemento al centro. Attorno ci sono configurazione, raccolta dati, convalida dati, gestione risorse, infrastruttura di serving, monitoraggio, strumenti di analisi, strumenti di processo, estrazione di feature.

MLOps: il modo migliore per pagare

Se l’ML è la carta di credito a interessi alti del debito tecnico, l’MLOps è il modo migliore per ripagarla.

L’MLOps può includere:

Test automatizzati
Tracciamento degli esperimenti automatizzato
Monitoraggio automatizzato

Per mantenere il debito tecnico al minimo

Passons à la pratique !

MLOps completamente automatizzato