Kerangka MLOps modern

Penyebaran dan Siklus Hidup MLOps

Nemanja Radojkovic

Senior Machine Learning Engineer

Tentang saya

Foto profil

Senior Machine Learning Engineer
Berpengalaman mengembangkan, menerapkan, dan memelihara model ML di produksi
Fokus saat ini: deployment dan siklus hidup ML

¹ www.linkedin.com/in/radojkovic

Kursus konseptual

YA: Pemahaman tingkat tinggi

bagan alur konseptual

TIDAK: Keterampilan praktik langsung

coding hands-on

MLOps

Machine Learning Operations

Prinsip
Praktik
Alat

Tujuan: alur kerja dan layanan ML

Terotomasi
Reprodusibel
Terintegrasi

ops bagian 1

ops bagian 2

mlops dari dev

Bab I

Nilai dan kebutuhan MLOps

waktu adalah uang

Tahap siklus hidup model

siklus hidup

Komponen kerangka MLOps

balok penyusun

hanya devops

devops dengan mlops

Biaya tinggi ML tanpa Ops

TITIK AWAL UMUM

Alur kerja ML manual
Deployment manual
Monitoring ad hoc

=> Akumulasi utang teknis

Utang Teknis

biaya tersirat dari kerja ulang tambahan akibat memilih solusi mudah (terbatas) sekarang alih-alih pendekatan lebih baik yang memakan waktu lebih lama

~ Wikipedia[1]

Makalah Google yang terkenal tentang topik ini:

"Machine Learning: The high-interest credit card of technical debt"[2]

LEBIH BANYAK WAKTU DAN MODEL TERDEPLOY

Lebih banyak utang teknis dan risiko model
Proses lebih lambat, lebih membuat frustrasi, dan rawan kesalahan
Kemampuan memberi nilai menurun

¹ https://en.wikipedia.org/wiki/Technical_debt ² https://research.google/pubs/pub43146/

Alur kerja ML

Pengumpulan dan penyiapan data
Pelabelan data
Pemilihan model
Pelatihan model
Pengemasan model
Deployment model
Monitoring dan pemeliharaan model

Otomasi alur kerja ML == kematangan MLOps

MLOps diterapkan

Terotomasi
Cepat
Reprodusibel
Dapat dijelaskan

kita di sini

non-linear

linear

sorotan 1

semua mata tertuju padaku

Selanjutnya!

Siklus hidup model

siklus hidup

Arsitektur MLOps

bagan alur konseptual

Ayo berlatih!

Penyebaran dan Siklus Hidup MLOps