MLOps

Artificial Intelligence (AI) Strategy

Vidhi Chugh

AI strategist and ethicist

Operationaliseren

Geavanceerde AI-modellen naar de dagelijkse operatie brengen.

Geavanceerde AI-modellen

Versiebeheer van code en data

Experimenten leveren meerdere codeversies op

Experimenten leveren meerdere codeversies op

Beheerd via versiebeheersystemen

Dataversies

Dataversies

Nieuwe data of nieuwe features

Portabiliteit

Omgevingen van ML-projecten
- Training
- Validatie
- Productie

Consistent door de hele lifecycle
- Bibliotheken
- Frameworks
- Versies

Bibliotheken, frameworks en versies

Tijd om na te denken!

Verschillende versies en afhankelijkheden beheren

Focus ligt op directe businesswaarde

Focus ligt op directe businesswaarde

Schaalbaarheid en architectuur pas later bedacht

Schaalbaarheid en architectuur

Ad-hocoplossingen zorgen voor problemen

Geautomatiseerd databeheer

Inspanning om trainingsdata opnieuw klaar te maken
Fouten, wijzigingen of updates
Geautomatiseerd databeheer voor kwaliteit
Kwaliteitscontroles en alerts

Fouten, wijzigingen of updates

Geautomatiseerd databeheer voor kwaliteit

Kwaliteitscontroles en alerts

Noodzaak van automatisering

Handmatige ingrepen = vertraging
- Verminderde modelprestatie
- Foutenanalyse
- Corrigerende actie

Handmatige ingrepen

Modelprestatie

Aanzienlijke tijd verstreken
Onjuiste voorspellingen
Negatieve gevolgen

Code refactoren

Refactor de initiële code

Ontbreken van kern-ingenieursbest practices

Initiële code refactoren nodig
- Aanzienlijk risico
- Originele logica verkeerd begrepen of weergegeven

Kenmerken van efficiënte architectuur

Betrouwbare systemen kosten moeite
MLOps = standaardiseren van processen en geautomatiseerde pipelines

Automatisering:
- Herbruikbare modules - dataproducten, code
- Geautomatiseerde testframeworks
- Verkleint het risico bij refactoren

Automatisering

Kenmerken van efficiënte architectuur

Docker bundelt model met omgeving

Docker bundelt model met omgeving
Minder handwerk = efficiëntere lifecycle
Modelprestatie onderhouden is lastig

MLOps om modellen te monitoren
- 30% minder model-shelving
- 60% meer waarde

Laten we oefenen!

Artificial Intelligence (AI) Strategy

Preparing Video For Download...