Sfide di business e rischi legati all’MLOps

MLOps per il business

Arne Jonas Warnke

Head of Emerging Curriculum

Agenda del capitolo 3

Video Sfide di business e rischi legati all’MLOps:

  • Sfide di business e rischi legati all’MLOps

$$

Video Come operano con successo i team MLOps:

  • Come operano con successo i team MLOps

$$

Video Lo stato dell’MLOps oggi

  • Lo stato dell’MLOps oggi
MLOps per il business

L’MLOps è impegnativo

$$ Molte aziende faticano

  • a mettere in produzione
  • ad automatizzare design e sviluppo
  • a rendere efficienti e scalabili

i loro casi d’uso ML

$$

Sfida

MLOps per il business

L’MLOps richiede competenze diverse

L’MLOps è all’incrocio tra Machine Learning, Data Engineering e Software Engineering

MLOps per il business

Sfide MLOps: competenze

I team spesso

  • Non hanno alcune competenze chiave
    • Spesso di software engineering

$$

Questo può portare a

  • Debito tecnico
  • Mancanza di standardizzazione
  • Scarsa riproducibilità

Persone che lavorano insieme su un puzzle

MLOps per il business

Sfide MLOps: collaborazione e cultura

La collaborazione è fondamentale per

  • Allineare metriche statistiche e business
  • Far capire a tutti come lavora il team MLOps

$$

Cultura e abitudini di

  • Apprendimento continuo
  • Accettare che gli errori capitano
  • Documentazione e condivisione della conoscenza

$$

Persone che collaborano davanti a un computer

MLOps per il business

Sfide MLOps: tecnologia

Tecnologia

  • Evoluzione rapida
  • Nessuno stack MLOps standard
    • Team diversi usano approcci tecnologici molto diversi
    • Poche best practice tecniche condivise

$$

Errore comune

  • Dare troppa importanza alla tecnologia

$$ Un grafo di rete intelligente

MLOps per il business

Sfide MLOps: rischi

Rischi nell’operare modelli di machine learning:

  • Rischi di business e finanziari
    • L’app o il modello potrebbero non essere disponibili
    • La qualità delle predizioni può degradare
    • Rischio di manutenzione
  • Rischi di governance
    • La predizione può essere totalmente errata
    • Possibile bias
  • Rischi (cyber) di sicurezza

$$

Illustrazione di diversi rischi

MLOps per il business

Software tradizionale vs. MLOps

Software tradizionale

  • Testing, debugging ...

MLOps

  • Testing, debugging ...
  • Monitoraggio dei dati
  • Monitoraggio degli output del modello
  • ...

$$ Una persona che scrive codice

$$ Un ibrido umano-robot che scrive codice

MLOps per il business

Passiamo alla pratica !

MLOps per il business

Preparing Video For Download...