Cara tim MLOps beroperasi dengan sukses

MLOps untuk Bisnis

Arne Jonas Warnke

Head of Emerging Curriculum

Dampak ML terbatas (masa lalu)

Dulu, perusahaan memakai pendekatan eksperimental untuk machine learning.

Masalahnya antara lain,

  • Silo
  • Model sering tidak masuk produksi
  • Waktu pengembangan lama
  • Otomasi tidak ada/terbatas
  • Kurang reprodusibilitas

Foto hitam-putih seseorang di depan komputer 1980-an

MLOps untuk Bisnis

Cara tim MLOps beroperasi dengan sukses

$$

Dalam video ini

  • Fokus teknologi lebih sedikit
  • Lihat praktik DevOps yang berhasil
MLOps untuk Bisnis

Pengingat DevOps

Tujuan DevOps

  • Meningkatkan kolaborasi developer dan operator

Pengembangan berfokus pada

  • Peningkatan pengalaman pengguna
  • Kebutuhan bisnis baru

Operasi berfokus pada

  • Stabilitas dan kemudahan pemeliharaan

DevOps

1 Kim et al. (2021). The DevOps handbook: How to create world-class agility, reliability, & security in technology organizations. IT Revolution.
MLOps untuk Bisnis

Praktik DevOps umum

  • Continuous delivery
    • Rilis kode kecil, sering, andal
    • Mis. terus menambah fitur kecil (atau perubahan kode)
  • Otomatisasi pengujian dan rilis
  • Monitoring, mudah “roll-back”
  • Continuous integration

$$ Cetak biru rilis perangkat lunak

1 Leite et al. (2019). A survey of DevOps concepts and challenges. ACM Computing Surveys (CSUR), 52(6), 1-35.
MLOps untuk Bisnis

Menangani kegagalan

Lingkaran DevOps $$ Layar biru

  • Umpan balik berulang
    • Tes otomatis
    • Deteksi kegagalan dini
  • Jika ada masalah
    • Analisis akar penyebab
    • Post-mortem tanpa menyalahkan
    • Belajar, berbagi pengetahuan, perbaikan
MLOps untuk Bisnis

Orang dan tim

MLOps/DevOps berfokus pada kolaborasi

  • Perusahaan merancang tim secara berbeda

$$

Fitur umum

  • Otonomi
  • Insentif bersama
  • Umpan balik berulang dan pembelajaran
  • Kepercayaan
  • Mengapresiasi pengambilan risiko

$$ Orang berkolaborasi

MLOps untuk Bisnis

Eksperimen

Kejar mutu tinggi lewat eksperimen

  • A/B testing (eksperimen acak)
  • Menyisipkan kegagalan terencana

$$ Uji laboratorium

MLOps untuk Bisnis

Ayo berlatih!

MLOps untuk Bisnis

Preparing Video For Download...