Monitoring, hertrainen en vervangen van MLOps-apps

MLOps voor bedrijven

Arne Jonas Warnke

Head of Emerging Curriculum

ML-modellen in productie

$$ De stappen van de operationsfase

MLOps voor bedrijven

Pre-deployment

$$ Pre-deploymentfase

MLOps voor bedrijven

Pre-deployment

  • Zorg dat modellen overal dezelfde resultaten geven
    • Inclusief containerization
  • Extra checks
    • Security

$$

Meestal de taak van de

  • software engineer of machine learning engineer

$$

Een foto van containers in een haven

MLOps voor bedrijven

De MLOps-app deployen

$$ Deploymentfase

MLOps voor bedrijven

De MLOps-app deployen

Deployment (via CI/CD)

  • Is grotendeels geautomatiseerd
  • Bestaat uit verschillende (automatische) tests
  • Maakt snel terugdraaien mogelijk

$$

Meestal de taak van de

  • software engineer of machine learning engineer

$$

Een vrouw die haar maaltijdbezorging ontvangt

MLOps voor bedrijven

De MLOps-app monitoren

Monitoringfase

MLOps voor bedrijven

De MLOps-app monitoren

Model staat live en

  • Levert businesswaarde
  • Downtime en issues zijn kostbaar
  • Moet nauw gemonitord worden
    • Grotendeels geautomatiseerd

Als het model faalt

  • Moeten mogelijk meerdere mensen bijspringen

Let op: modelkwaliteit verslechtert na verloop van tijd.

$$

Een futuristische monitorruimte

MLOps voor bedrijven

ML-modellen hertrainen

Hertrainingsfase

MLOps voor bedrijven

ML-modellen hertrainen

Modelprestatie verslechtert vaak

  • Economische veranderingen
  • Klanten hebben andere voorkeuren

Daarom moeten we modellen regelmatig hertrainen

  • Kan deels geautomatiseerd

Hoofdzakelijk de taak van

  • data scientist / machine learning engineer

$$

Een afbeelding van een cirkel

MLOps voor bedrijven

Laten we oefenen!

MLOps voor bedrijven

Preparing Video For Download...