MLOps

Strategia per l'Intelligenza Artificiale (AI)

Vidhi Chugh

AI strategist and ethicist

Messa in produzione

Portare modelli di IA avanzati nelle operazioni quotidiane.

Modelli di IA avanzati

Strategia per l'Intelligenza Artificiale (AI)

Versioning di codice e dati

  • Gli esperimenti creano più versioni di codice

Gli esperimenti creano più versioni di codice

  • Gestite con sistemi di controllo versione
  • Versioni dei dati

Versioni dei dati

  • Nuovi dati o nuove feature
Strategia per l'Intelligenza Artificiale (AI)

Portabilità

  • Ambienti dei progetti ML
    • Training
    • Validazione
    • Produzione

 

  • Coerenti lungo il ciclo di vita

    • Librerie
    • Framework
    • Versioni

 

Librerie, framework e versioni

Strategia per l'Intelligenza Artificiale (AI)

Momento giusto per pensarci!

  • Gestire versioni e dipendenze diverse

Focus sul valore business immediato

  • Focus sul valore business immediato
  • Scalabilità e architettura pensate dopo

Scalabilità e architettura

  • Approcci ad hoc creano problemi
Strategia per l'Intelligenza Artificiale (AI)

Gestione dati automatizzata

  • Sforzo per ripreparare i dati di training
  • Errori, modifiche o aggiornamenti
  • Gestione dati automatizzata per la qualità
  • Controlli di qualità e avvisi

Errori, modifiche o aggiornamenti

Gestione dati automatizzata per la qualità

Controlli di qualità e avvisi

Strategia per l'Intelligenza Artificiale (AI)

Perché serve l’automazione

  • Interventi manuali = ritardi
    • Prestazioni del modello degradate
    • Analisi degli errori
    • Azioni correttive

Interventi manuali

Prestazioni del modello

 

  • È passato molto tempo
  • Predizioni errate
  • Conseguenze negative
Strategia per l'Intelligenza Artificiale (AI)

Refactoring del codice

 

Refactoring del codice iniziale

 

  • Mancano le best practice di ingegneria di base

 

  • Serve il refactoring del codice iniziale
    • Rischio significativo
    • Logica originale fraintesa o alterata
Strategia per l'Intelligenza Artificiale (AI)

Caratteristiche di un’architettura efficiente

 

  • Sistemi affidabili richiedono impegno
  • MLOps = processi standardizzati e pipeline automatiche

 

  • Automazione:
    • Moduli riutilizzabili: data product, codice
    • Framework di test automatici
    • Riduce il rischio del refactoring

 

Automazione

Strategia per l'Intelligenza Artificiale (AI)

Caratteristiche di un’architettura efficiente

 

Docker include modello e ambiente

 

  • Docker include modello e ambiente

  • Meno interventi manuali = ciclo di vita efficiente

  • Mantenere le prestazioni è difficile

 

  • MLOps per monitorare i modelli
    • 30% in meno di modelli accantonati
    • Valore +60%
Strategia per l'Intelligenza Artificiale (AI)

Alleniamoci!

Strategia per l'Intelligenza Artificiale (AI)

Preparing Video For Download...