Menyajikan model

Machine Learning Ujung ke Ujung

Joshua Stapleton

Machine Learning Engineer

Model-sebagai-layanan

  • Pemangku kepentingan/pengguna mengakses model via internet

  • Tampilkan model lewat portal

    • Pengguna mengirim kueri/data
    • Menerima diagnosis/prediksi

  • Kekhawatiran:

    • Klinik pedesaan/tanpa internet
    • Lingkungan sangat aman/data sensitif

Simbol portal menunjukkan model sebagai layanan

Machine Learning Ujung ke Ujung

Penyajian di perangkat

Arsitektur penyajian terintegrasi

  • Komputasi tepi
  • Berguna saat internet tidak andal

Roda gigi di kepala menunjukkan komputasi pada perangkat

Machine Learning Ujung ke Ujung

Plus minus penyajian di perangkat

Kelebihan:

  • Latensi lebih rendah
  • Keamanan
  • Cocok untuk area terpencil/tidak terhubung

Kekurangan:

  • Batas sumber daya
  • Pembaruan model
  • Pemantauan
Machine Learning Ujung ke Ujung

Strategi implementasi

  • Pruning
  • Transfer learning
  • Gunakan kerangka khusus

Ikon menunjukkan strategi

Machine Learning Ujung ke Ujung

Ayo berlatih!

Machine Learning Ujung ke Ujung

Preparing Video For Download...