Hoe MLOps-teams succesvol werken

MLOps voor bedrijven

Arne Jonas Warnke

Head of Emerging Curriculum

Beperkte impact van machine learning (vroeger)

Vroeger gebruikten bedrijven een experimentele aanpak voor machine learning.

Problemen waren o.a.

  • Silovorming
  • Modellen haalden productie vaak niet
  • Lange doorlooptijd
  • Geen of weinig automatisering
  • Gebrekkige reproduceerbaarheid

Een zwart-witfoto van één persoon achter een computer uit 1980

MLOps voor bedrijven

Hoe MLOps-teams succesvol werken

$$

In deze video

  • Minder focus op technologieën
  • Kijken naar succesvolle DevOps-praktijken
MLOps voor bedrijven

Herinnering: DevOps

Doel van DevOps

  • Meer samenwerking tussen developers en operators

Development draait om

  • Betere user experience
  • Nieuwe businessvereisten

Operations streeft naar

  • Stabiliteit en onderhoudbaarheid

DevOps

1 Kim et al. (2021). The DevOps handbook: How to create world-class agility, reliability, & security in technology organizations. IT Revolution.
MLOps voor bedrijven

Veelvoorkomende DevOps-praktijken

  • Continuous delivery
    • Frequente, kleine, betrouwbare releases
    • Bijv. steeds kleine features (of codewijzigingen) toevoegen
  • Automatisering van testen en releasen
  • Monitoring, makkelijke rollbacks
  • Continuous integration

$$ Een blauwdruk van een softwarerelease

1 Leite et al. (2019). A survey of DevOps concepts and challenges. ACM Computing Surveys (CSUR), 52(6), 1-35.
MLOps voor bedrijven

Omgaan met fouten

DevOps-cirkel $$ Een blauw scherm

  • Feedbackloops
    • Geautomatiseerde tests
    • Fouten vroeg herkennen
  • Als er iets misgaat
    • Root-cause-analyses
    • Blameless post-mortems
    • Leren, kennis delen, verbeteren
MLOps voor bedrijven

Mensen en teams

MLOps/DevOps draait om samenwerking

  • Bedrijven organiseren teams verschillend

$$

Gemeenschappelijke kenmerken

  • Autonomie
  • Gedeelde prikkels
  • Feedbackloops en leren
  • Vertrouwen
  • Risico nemen belonen

$$ Mensen die samenwerken

MLOps voor bedrijven

Experimenteren

Streef naar hoge kwaliteit via experimenten

  • A/B-testen (gerandomiseerde experimenten)
  • Bewust fouten injecteren

$$ Een laboratoriumtest

MLOps voor bedrijven

Laten we oefenen!

MLOps voor bedrijven

Preparing Video For Download...