MLOps di Kubernetes

Pengantar Kubernetes

Frank Heilmann

Platform Architect and Freelance Instructor

Apa itu MLOps?

Paradigma untuk melakukan deployment dan pemeliharaan model machine learning di produksi
Serangkaian alur kerja praktik terbaik dengan fokus pada pengembangan berkelanjutan model tersebut
Terinspirasi oleh DevOps:
- Model machine learning dikembangkan dan diuji di sistem eksperimental terisolasi, lalu dideploy ke produksi
- Saat di produksi, dilakukan pemantauan terus-menerus; pelatihan ulang dapat dipicu
Data scientist, data engineer, dan tim TI dapat bekerja sinkron pada model yang dideploy dan memastikan akurasinya

Paradigma MLOps sangat selaras dengan Kubernetes:
- Sistem eksperimental terisolasi: dapat diwujudkan lewat Pod dan Kubernetes Storage
- Pemantauan model ML di produksi: didukung oleh siklus hidup Pod (dan versi image yang dideploy)
- Kerja sinkron pada akurasi model: tertanam sejak awal dalam arsitektur Kubernetes
Tersedia beberapa framework MLOps; dua solusi open-source paling dikenal adalah
- mlflow
- Kubeflow

Gambaran Kubeflow

Kubeflow memudahkan deployment alur kerja ML khusus di Kubernetes
Mencakup setiap langkah siklus hidup model ML
Terdiri dari beberapa komponen yang mencakup langkah-langkah ini, bekerja mandiri
Python dapat digunakan untuk mengembangkan dan mendepoy model ML melalui API
- tidak perlu menggunakan kubectl

Pengantar Kubernetes