Ölçeklenebilirlik

Üretim İçin Machine Learning Modelleri Geliştirme

Sinan Ozdemir

Data Scientist, Entrepreneur, and Author

Ölçeklenebilirlikte hesaplama kısıtları

  • CPU, bellek ve disk gereksinimleri ML modelinin ölçeklenebilirliğini etkiler
  • Eğitim ve çıkarım sırasında CPU, bellek ve disk kullanımını ölç
  • Erken tespit daha iyi model ölçeklenebilirliği sağlar

sunucu odası

Üretim İçin Machine Learning Modelleri Geliştirme

Model karmaşıklığı ve ölçeklenebilirlik

  • Model karmaşıklığı ölçeklenebilirliği etkiler
  • Karmaşıklık ve ölçeklenebilirliği dengelemek zordur
  • Dengeleme stratejileri:
    • Özellik seçimi teknikleri (ör. Ki-kare, PCA)
    • Model sıkıştırma teknikleri (ör. budama)

PCA

Principal Component Analysis (PCA)

Üretim İçin Machine Learning Modelleri Geliştirme

Dağıtım hızı ve ölçeklenebilirlik

  • Hızlı dağıtım ve yineleme, güncellik ve doğruluk için kritik
  • Stratejiler
    • sürekli tümleştirme/dağıtım - bir sonraki derste ele alınacak
    • çevrimiçi öğrenme - yeni verilerle gerçek zamanlı öğrenme

koşucu

Üretim İçin Machine Learning Modelleri Geliştirme

En uygun ölçekleme stratejileri

  • Artılar-eksiler: sunum maliyeti, yeniden eğitim, dağıtım hızı
  • Ölçekleme stratejileri: yatay, dikey, otomatik ölçekleme
    • Yatay ölçekleme: daha fazla makine eklemek
    • Dikey ölçekleme: makine boyutunu artırmak
    • Otomatik ölçekleme: iş yüküne göre makine sayısını ayarlar

ölçekleme

1 https://www.spiceworks.com/tech/cloud/articles/horizontal-vs-vertical-cloud-scaling
Üretim İçin Machine Learning Modelleri Geliştirme

En uygun ölçekleme stratejini seçmek

  • Yatay ölçekleme yük dengeleme, bölümleme kullanır

  • Yatay ölçeklemenin artılar-eksileri: karmaşıklık, maliyet ($)

  • Dikey ölçekleme makine boyutunu artırır

  • Dikey ölçeklemenin artı-eksi: maliyet ($)

Tercihen - yatay ve dikey olarak otomatik ölçekle.

ölçekleme

1 https://www.spiceworks.com/tech/cloud/articles/horizontal-vs-vertical-cloud-scaling
Üretim İçin Machine Learning Modelleri Geliştirme

Hadi pratik yapalım!

Üretim İçin Machine Learning Modelleri Geliştirme

Preparing Video For Download...