Come operano con successo i team MLOps

MLOps per il business

Arne Jonas Warnke

Head of Emerging Curriculum

Impatto limitato del ML (in passato)

Prima, molte aziende usavano un approccio sperimentale al machine learning.

Tra i problemi:

  • Silos
  • Modelli raramente in produzione
  • Tempi di sviluppo lunghi
  • Nessuna o scarsa automazione
  • Scarsa riproducibilità

Foto in bianco e nero di una persona davanti a un computer anni '80

MLOps per il business

Come operano con successo i team MLOps

$$

In questo video

  • Meno focus sulle tecnologie
  • Vediamo pratiche DevOps di successo
MLOps per il business

Promemoria: DevOps

Obiettivi DevOps

  • Aumentare la collaborazione tra developer e operatori

Il development riguarda

  • Migliorare l’esperienza utente
  • Nuove esigenze di business

Le operations puntano a

  • Stabilità e manutenibilità

DevOps

1 Kim et al. (2021). The DevOps handbook: How to create world-class agility, reliability, & security in technology organizations. IT Revolution.
MLOps per il business

Pratiche DevOps comuni

  • Continuous delivery
    • Rilasci frequenti, piccoli e affidabili
    • Es.: aggiungere spesso piccole feature (o cambi di codice)
  • Automazione di test e rilascio
  • Monitoraggio, semplici "roll-back"
  • Continuous integration

$$ Blueprint di un rilascio software

1 Leite et al. (2019). A survey of DevOps concepts and challenges. ACM Computing Surveys (CSUR), 52(6), 1-35.
MLOps per il business

Gestire i guasti

Cerchio DevOps $$ Una schermata blu

  • Feedback loop
    • Test automatici
    • Individuare i fault presto
  • Se qualcosa va storto
    • Analisi della causa radice
    • Post-mortem senza colpe
    • Apprendimento, condivisione, miglioramento
MLOps per il business

Persone e team

MLOps/DevOps è collaborazione

  • Le aziende organizzano i team in modi diversi

$$

Caratteristiche comuni

  • Autonomia
  • Incentivi condivisi
  • Feedback loop e apprendimento
  • Fiducia
  • Premiare il rischio

$$ Persone che collaborano

MLOps per il business

Sperimentazione

Punta alla qualità con la sperimentazione

  • A/B test (esperimenti randomizzati)
  • Inserire guasti deliberati

$$ Un test di laboratorio

MLOps per il business

Ayo berlatih!

MLOps per il business

Preparing Video For Download...