Architettura di riferimento: MLOps totalmente automatizzato

MLOps completamente automatizzato

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

Cos’è un’architettura di riferimento?

$$

Un’architettura di riferimento è un modello per progettare soluzioni in vari domini IT.

Un insieme di documenti con:

  • Strutture e integrazioni degli elementi IT
  • Pattern comuni nei sistemi IT, inclusi quelli ML

  • Sfrutta esperienza e best practice del settore

MLOps completamente automatizzato

Architettura MLOps totalmente automatizzata

Un’immagine con una panoramica dell’architettura MLOps totalmente automatizzata.

1 https://cloud.google.com/architecture/mlops-continuous-delivery-and-automation-pipelines-in-machine-learning
MLOps completamente automatizzato

Architettura di riferimento - Esperimenti orchestrati

Un’immagine con una panoramica dell’architettura MLOps totalmente automatizzata. L’immagine zooma su un set di riquadri connessi. Da sinistra a destra: analisi dati, esperimenti orchestrati, sorgente codice, repository del codice.

MLOps completamente automatizzato

Architettura di riferimento - Codice sorgente e CI

L’immagine si sposta a sinistra. Dopo il repository del codice compare un blocco di continuous integration, con una fase di build che produce pacchetti in output.

MLOps completamente automatizzato

Architettura di riferimento - Artifact e CD

L’immagine scorre in basso e mostra il riquadro di continuous delivery.

MLOps completamente automatizzato

Architettura di riferimento - Deploy della pipeline ML

L’immagine si sposta a sinistra e mostra una pipeline ML automatizzata con fasi: estrazione dati, validazione dati, preparazione dati, training modello, valutazione modello, validazione modello.

MLOps completamente automatizzato

Architettura di riferimento - Metadata store

L’immagine scorre in basso e mostra il Metadata Store che raccoglie i log generati dalla pipeline ML.

MLOps completamente automatizzato

Architettura di riferimento - Model registry

L’immagine si sposta in alto a destra e mostra che i modelli addestrati dalla pipeline ML vengono inviati a un registro modelli.

MLOps completamente automatizzato

Architettura di riferimento - Prediction services

L’immagine scorre in basso e mostra che i modelli addestrati dalla pipeline ML vengono consegnati in continuo a un modulo di prediction service nell’architettura.

MLOps completamente automatizzato

Architettura di riferimento - Monitoraggio continuo

L’immagine si sposta a sinistra e mostra un modulo di monitoraggio performance che traccia le prestazioni delle predizioni del prediction service.

MLOps completamente automatizzato

Architettura di riferimento - Trigger automatico

L’immagine scorre ancora a sinistra e mostra un componente di trigger collegato al modulo di monitoraggio performance

MLOps completamente automatizzato

Architettura di riferimento - Retraining automatico

L’immagine scorre in alto e mostra che il trigger può attivare la pipeline ML automatizzata nel sistema.

MLOps completamente automatizzato

Architettura di riferimento

L’immagine si allontana per mostrare la panoramica completa dell’architettura di riferimento.

MLOps completamente automatizzato

Architettura di riferimento - Feature store

Un’immagine con una panoramica dell’architettura MLOps totalmente automatizzata. L’immagine zooma sul componente Feature Store.

MLOps completamente automatizzato

Architettura di riferimento - Feature store

L’immagine scorre in basso e mostra che il feature store alimenta anche la pipeline ML automatizzata negli ambienti staging, preproduzione e produzione.

MLOps completamente automatizzato

Architettura di riferimento - Feature store

L’immagine zooma sul componente Feature Store. Questo componente alimenta il modulo di esperimenti orchestrati nell’ambiente di sperimentazione e sviluppo.

MLOps completamente automatizzato

Architettura di riferimento - Feature store

L’immagine zooma sul componente Feature Store. Questo componente alimenta il prediction service nel sistema.

MLOps completamente automatizzato

Architettura MLOps totalmente automatizzata

Un’immagine con una panoramica dell’architettura MLOps totalmente automatizzata.

MLOps completamente automatizzato

Passiamo alla pratica!

MLOps completamente automatizzato

Preparing Video For Download...