MLOps na Kubernetes

Wprowadzenie do Kubernetes

Frank Heilmann

Platform Architect and Freelance Instructor

Czym jest MLOps?

Paradygmat wdrażania i utrzymywania modeli ML na produkcji
Zestaw sprawdzonych praktyk skupionych na ciągłym rozwoju modeli
Inspirowany DevOps:
- Modele ML są rozwijane i testowane w izolowanych środowiskach eksperymentalnych, a następnie wdrażane na produkcję
- Na produkcji prowadzony jest ciągły monitoring; może zostać uruchomiony ponowny trening
Data scientists, inżynierowie danych i zespoły IT mogą synchronicznie pracować nad wdrożonymi modelami i zapewniać ich dokładność

Paradygmat MLOps dobrze odwzorowuje się na Kubernetes:
- Izolowane środowiska eksperymentalne: realizowane przez Pody i zasoby Kubernetes Storage
- Monitoring modeli ML na produkcji: możliwy dzięki cyklowi życia Podów (i wersjom wdrożonych obrazów)
- Synchroniczna praca nad dokładnością modeli: wbudowana w architekturę Kubernetes
Istnieje wiele frameworków MLOps; dwa najbardziej znane rozwiązania open-source to
- mlflow
- Kubeflow

Przegląd Kubeflow

Kubeflow umożliwia proste wdrażanie przepływów ML na Kubernetes
Obejmuje każdy etap cyklu życia modelu ML
Składa się z niezależnych komponentów obsługujących poszczególne etapy
Python umożliwia rozwijanie i wdrażanie modeli ML przez API
- nie ma potrzeby używania kubectl

Wprowadzenie do Kubernetes