MLOps pe Kubernetes

Introducere în Kubernetes

Frank Heilmann

Platform Architect and Freelance Instructor

Ce este MLOps?

O paradigmă pentru implementarea și menținerea modelelor ML în producție
Un set de fluxuri de lucru recomandate, axate pe dezvoltarea continuă a acestor modele
Inspirat din DevOps:
- Modelele ML sunt dezvoltate și testate în sisteme experimentale izolate, apoi implementate în producție
- În producție, monitorizare continuă; reantrenarea poate fi declanșată
Echipele de data science, inginerie a datelor și IT pot lucra sincron pe modele implementate și pot asigura acuratețea acestora

Paradigma MLOps se potrivește foarte bine cu Kubernetes:
- Sisteme experimentale izolate: realizabile prin Pods și Kubernetes Storage
- Monitorizarea modelelor ML în producție: posibilă prin ciclul de viață al Pods (și versiunile de imagini implementate)
- Lucru sincron privind acuratețea modelelor: integrat de la bun început în arhitectura Kubernetes
Există mai multe framework-uri pentru MLOps; cele mai cunoscute soluții open-source sunt
- mlflow
- Kubeflow

Prezentare generală Kubeflow

Kubeflow permite implementări simple ale fluxurilor ML pe Kubernetes
Acoperă fiecare etapă a ciclului de viață al modelelor ML
Este format din mai multe componente care acoperă aceste etape, funcționând independent
Python poate fi utilizat pentru a dezvolta și implementa modele ML printr-un API
- nu este necesară utilizarea kubectl

Introducere în Kubernetes