Introductie tot volledig geautomatiseerde MLOps

Volledig geautomatiseerde MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

MLOps in een industriële context

Wat zijn veelvoorkomende doelen van bedrijven met machine learning?

ML-tools en -producten ontwikkelen die data gebruiken om
- Klanten beter te bedienen
- Processen te optimaliseren

Een afbeelding die laat zien hoe een bedrijf ML-systemen kan gebruiken om interne processen te verbeteren of klantgerichte services te versterken.

Optimaliseren voor waardecreatie

Bedrijven willen winst maximaliseren

ML kan winstgevendheid verhogen
Met kosten- en omzetanalyse kun je potentiële winst schatten
Het juiste aantal ML-usecases levert winst op

Een grafiek met een curve. Op de x-as het aantal ML-projecten. Op de y-as de omzet. De curve stijgt tot een plateau bij 6 projecten en ca. 25 miljoen omzet, en daalt daarna.

Kosten in softwareontwikkeling

Verwachte kosten in traditioneel softwareproject:

Ontwikkelkosten
Projectmanagement
UI/UX-design
Kwaliteitsborging

Technische schuld in softwareontwikkeling

Technische of ontwerpschuld:

Kosten van rework door slecht ontwerp

Afbeelding van twee ingenieurs voor een slecht gebouwd huis. Een zegt: "Ik snap niet waarom een extra raam toevoegen zo lang duurt."

¹ https://vincentdnl.com/drawings/

Verborgen technische schuld in ML-systemen

Machine learning: "De creditcard met hoge rente van technische schuld"[1].

Verborgen technische schuld kan komen door:

De data voor het trainen van ML-modellen
De modellen die het ML-systeem aandrijven
De infrastructuur van het ML-systeem
De monitoring van het ML-systeem

¹ https://research.google/pubs/pub43146/

Kosten van machine learning-projecten

Minder winst door technische schuld in ML-systemen: $$ $$

Afbeelding met twee grafieken met elk één curve. In de eerste wordt een geschatte omzet van $25M berekend. In de tweede is dit gedaald naar $10M.

De creditcard met hoge rente van technische schuld

ML-systemen zijn complex en kunnen onhandelbaar worden.

Een afbeelding met de vele componenten in een ML-systeem. ML-code is een klein onderdeel in het midden. Daaromheen o.a. configuratie, dataverzameling, datavalidatie, resourcebeheer, serving-infrastructuur, monitoring, analysetools, procesmanagementtools, feature-extractie.

MLOps: De beste manier om te betalen

Als ML de creditcard met hoge rente van technische schuld is, is MLOps de beste manier om ’m af te lossen.

MLOps kan omvatten:

Geautomatiseerd testen
Geautomatiseerde experimenttracking
Geautomatiseerde monitoring

Om technische schuld te minimaliseren

Laten we oefenen!

Volledig geautomatiseerde MLOps