Skalasi melampaui PoC

Strategi Artificial Intelligence (AI)

Vidhi Chugh

AI strategist and ethicist

Apa arti skalasi?

 

 

• Skalabilitas:
  • Mengelola pertumbuhan data, pengguna, dan tugas
  • Menjaga kinerja, kualitas, dan biaya

 

• Menskalakan AI = 3x ROI!
  • Integrasikan ke proses bisnis yang ada

Platform komputasi awan

 

• Dari PoC ke pengembangan skala penuh

 

• Platform komputasi awan
  • Patuhi regulasi data
  • Keamanan
  • Dukung arsitektur multi-cloud dan hybrid-cloud

 

Pertimbangan deployment

• Analisis biaya dan kinerja
• Tata kelola; kemudahan deployment dan manajemen

Bangun vs. beli

 

• Model siap pakai vs. algoritme kustom

• Kontrol lebih besar atas kinerja sistem

 

• Linimasa proyek

• Algoritme kustom lebih lama dibanding yang tersedia

Skalabilitas dan kinerja

 

• Skalasi = prediksi berkualitas tanpa mengorbankan kinerja

 

• Kinerja:
  • Akurasi
  • Latensi: waktu model untuk memprediksi
  • Throughput: jumlah prediksi per waktu tertentu

 

 

Data dalam skala besar

• Inti model pembelajaran mesin

• Mengelola siklus hidup data

  • Menyiapkan dan memelihara

Akses ke data

 

• Hanya dapat diakses departemen tertentu; terisolasi dari yang lain
  • Menyebabkan silo
  • Mengurangi transparansi
  • Model tidak efisien

 

• Sumber berbeda = format berbeda
  • Standarkan

 

Arsitektur yang dapat diskalakan

 

 

• Merancang arsitektur yang tepat

 

• Mikroservis
  • Skalakan secara independen
  • Fleksibilitas
  • Responsivitas

 

• Koordinasi interaksi itu sulit

Infrastruktur untuk skalasi

 

• Komputasi data intensif
• GPU mempercepat tugas namun biayanya naik

 

• Timbang manfaatnya
  • Percepat pelatihan model
  • Kinerja lebih baik
  • Dengan biaya tambahan

Sederhanakan proses AI

• Rencana implementasi rinci dan desain arsitektur
• Standarkan dan sederhanakan
  • Pembangunan, deployment, dan pemantauan model

Ayo berlatih!

Strategi Artificial Intelligence (AI)