Perkenalan otomasi penuh dan praktik terbaik untuk MLOps

MLOps Otomatis Penuh

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

Siklus hidup MLOps

Gambar siklus hidup MLOps. Tiga lingkaran saling terhubung. Nama masing-masing dari kiri ke kanan: Design, Development, Deployment.

MLOps Otomatis Penuh

Tingkat kematangan dalam MLOps

$$

Tingkat kematangan meliputi:

  • Alur kerja ML manual

  • Alur kerja ML semi-otomatis

  • Alur kerja ML sepenuhnya otomatis

MLOps Otomatis Penuh

Alur kerja ML manual - Eksperimen ad hoc

Gambar yang menggambarkan bagaimana model dikirim dari pengembangan ke produksi secara manual.

MLOps Otomatis Penuh

Alur kerja ML semi-otomatis

Gambar data yang dialirkan ke pipeline eksperimen berorkestrasi.

MLOps Otomatis Penuh

Alur kerja ML semi-otomatis

Gambar sebelumnya diperluas dengan kode yang didorong ke source repository dan feature store yang memasok data ke sistem.

MLOps Otomatis Penuh

Alur kerja ML semi-otomatis

Gambar sebelumnya diperluas dengan komponen deployment. Komponen ini melakukan deploy pipeline ML otomatis dalam arsitektur. Selain itu, ML metadata store menerima metadata yang dihasilkan pipeline otomatis.

MLOps Otomatis Penuh

Alur kerja ML semi-otomatis

Arsitektur sebelumnya diperluas. Kini model dari pipeline otomatis didorong ke model registry yang kemudian mengirimkan model ke modul model serving. Modul model serving terhubung ke layanan prediksi dalam arsitektur.

MLOps Otomatis Penuh

Alur kerja ML semi-otomatis

Modul layanan prediksi dalam arsitektur terhubung ke komponen pemantauan performa yang pada gilirannya terhubung ke pemicu otomatis. Pemicu otomatis dapat memulai pipeline otomatis dalam sistem.

MLOps Otomatis Penuh

Alur kerja ML sepenuhnya otomatis

Gambaran tingkat tinggi arsitektur referensi MLOps yang sepenuhnya otomatis.

MLOps Otomatis Penuh

Otomasi dalam siklus hidup ML - Desain

Tabel yang menunjukkan aktivitas pada fase desain dan perencanaan tidak dapat diotomatisasi.

Praktik baik:

  • Terapkan proses yang dapat direproduksi
  • Tulis dokumentasi rinci
MLOps Otomatis Penuh

Otomasi dalam siklus hidup ML - Pengembangan

Tabel yang menunjukkan aktivitas pada fase pengembangan tidak semuanya dapat diotomatisasi.

Praktik baik:

  • Ingat kita mengembangkan perangkat lunak
  • Gunakan version control
  • Gunakan alat orkestrasi
MLOps Otomatis Penuh

Otomasi dalam siklus hidup ML - Operasi

Tabel yang menunjukkan aktivitas pada fase operasi sebagian besar dapat diotomatisasi.

Gunakan:

  • Pengujian otomatis
  • CI/CD/CT/CM
MLOps Otomatis Penuh

Ayo berlatih!

MLOps Otomatis Penuh

Preparing Video For Download...