Schema per automazione, monitoraggio e risposta agli incidenti

MLOps completamente automatizzato

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

Cos’è un design pattern software?

$$

Una soluzione generale e riutilizzabile a un problema ricorrente...

$$

$$

Immagine di un blueprint.

MLOps completamente automatizzato

Automatizza, monitora, rispondi

$$

$$

Immagine di un processo: Automazione, Monitoraggio, Risposta agli incidenti.

  • Migliora l’affidabilità dei sistemi ML che progettiamo
MLOps completamente automatizzato

Tre esempi di design pattern in MLOps

$$

  1. Retraining automatico del modello
  2. Rollback del modello
  3. Imputazione delle feature

$$

Immagine di un blueprint.

MLOps completamente automatizzato

1. Retraining automatico del modello

Panoramica ad alto livello dell’architettura MLOps completamente automatizzata.

MLOps completamente automatizzato

1. Retraining automatico del modello - esecuzione delle prediction

Panoramica ad alto livello dell’architettura MLOps completamente automatizzata. È evidenziato il servizio di prediction.

MLOps completamente automatizzato

1. Retraining automatico del modello - Monitoraggio

Panoramica ad alto livello dell’architettura MLOps completamente automatizzata. È evidenziato il modulo di monitoraggio delle performance.

MLOps completamente automatizzato

1. Retraining automatico del modello - Trigger

Panoramica ad alto livello dell’architettura MLOps completamente automatizzata. È evidenziato il componente di trigger.

MLOps completamente automatizzato

1. Retraining automatico del modello - Pipeline automatizzata

Panoramica ad alto livello dell’architettura MLOps completamente automatizzata. È evidenziata la pipeline automatizzata.

MLOps completamente automatizzato

1. Retraining automatico del modello - Deployment

Panoramica ad alto livello dell’architettura MLOps completamente automatizzata. È evidenziato il componente di continuous delivery.

MLOps completamente automatizzato

2. Rollback del modello

Panoramica ad alto livello dell’architettura MLOps completamente automatizzata. È evidenziata la pipeline automatizzata.

MLOps completamente automatizzato

2. Rollback del modello - Validazione fallita

Panoramica ad alto livello dell’architettura MLOps completamente automatizzata. Sono evidenziati i passaggi di valutazione e validazione del modello.

MLOps completamente automatizzato

2. Rollback del modello - Ultimo modello funzionante

Panoramica ad alto livello dell’architettura MLOps completamente automatizzata. È evidenziato il model registry.

MLOps completamente automatizzato

2. Rollback del modello - Rilascio

Panoramica ad alto livello dell’architettura MLOps completamente automatizzata. È evidenziato il componente di continuous deployment.

MLOps completamente automatizzato

3. Imputazione delle feature - Pipeline data‑intensive

Panoramica ad alto livello dell’architettura MLOps completamente automatizzata. Sono evidenziati i componenti dati nella pipeline automatizzata.

MLOps completamente automatizzato

3. Imputazione delle feature - Qualità dei dati

$$

Tabella con colonne di dati con valori mancanti.

$$

  • Qualità dei dati variabile
  • Alcune feature possono scendere sotto la soglia QA
MLOps completamente automatizzato

3. Imputazione delle feature - Feature difettose

$$

Le colonne della tabella precedente sono evidenziate e marcate come difettose.

$$

  • Rileva le feature non conformi
  • Applica l’imputazione
MLOps completamente automatizzato

3. Imputazione delle feature - Possibili fix

  • Valori numerici

    $$

    • Imputazione media/mediana

    • Imputazione KNN

$$

  • Valori categorici

    $$

  • Imputazione con categoria frequente

  • Aggiunta di una categoria "Missing"

MLOps completamente automatizzato

Passons à la pratique !

MLOps completamente automatizzato

Preparing Video For Download...