MLOps di Kubernetes

Pengantar Kubernetes

Frank Heilmann

Platform Architect and Freelance Instructor

Apa itu MLOps?

  • Paradigma untuk melakukan deployment dan pemeliharaan model machine learning di produksi
  • Serangkaian alur kerja praktik terbaik dengan fokus pada pengembangan berkelanjutan model tersebut
  • Terinspirasi oleh DevOps:
    • Model machine learning dikembangkan dan diuji di sistem eksperimental terisolasi, lalu dideploy ke produksi
    • Saat di produksi, dilakukan pemantauan terus-menerus; pelatihan ulang dapat dipicu
  • Data scientist, data engineer, dan tim TI dapat bekerja sinkron pada model yang dideploy dan memastikan akurasinya
Pengantar Kubernetes

Menerapkan MLOps di Kubernetes

  • Paradigma MLOps sangat selaras dengan Kubernetes:

    • Sistem eksperimental terisolasi: dapat diwujudkan lewat Pod dan Kubernetes Storage
    • Pemantauan model ML di produksi: didukung oleh siklus hidup Pod (dan versi image yang dideploy)
    • Kerja sinkron pada akurasi model: tertanam sejak awal dalam arsitektur Kubernetes
  • Tersedia beberapa framework MLOps; dua solusi open-source paling dikenal adalah

Pengantar Kubernetes

Kubeflow - Gambaran Umum

Gambaran Kubeflow

  • Kubeflow memudahkan deployment alur kerja ML khusus di Kubernetes
  • Mencakup setiap langkah siklus hidup model ML
  • Terdiri dari beberapa komponen yang mencakup langkah-langkah ini, bekerja mandiri
  • Python dapat digunakan untuk mengembangkan dan mendepoy model ML melalui API
    • tidak perlu menggunakan kubectl
Pengantar Kubernetes

Ayo berlatih!

Pengantar Kubernetes

Preparing Video For Download...