Skalowalność

Tworzenie modeli uczenia maszynowego na potrzeby produkcji

Sinan Ozdemir

Data Scientist, Entrepreneur, and Author

Ograniczenia obliczeniowe a skalowalność

  • CPU, pamięć i dysk wpływają na skalowalność modeli ML
  • Należy mierzyć ich użycie podczas trenowania i wnioskowania
  • Wczesna identyfikacja problemów poprawia skalowalność

serwerownia

Tworzenie modeli uczenia maszynowego na potrzeby produkcji

Złożoność modelu a skalowalność

  • Złożoność modelu wpływa na skalowalność
  • Balansowanie złożoności i skalowalności jest trudne
  • Strategie równoważenia:
    • Techniki selekcji cech (np. chi-kwadrat, PCA)
    • Techniki kompresji modeli (np. przycinanie)

PCA

Analiza głównych składowych (PCA)

Tworzenie modeli uczenia maszynowego na potrzeby produkcji

Tempo wdrożeń a skalowalność

  • Szybkie wdrażanie i iteracje są kluczowe dla trafności i dokładności
  • Strategie:
    • ciągła integracja/wdrażanie – omówione w kolejnej lekcji
    • uczenie online – uczenie na nowych danych w czasie rzeczywistym

biegacz

Tworzenie modeli uczenia maszynowego na potrzeby produkcji

Optymalne strategie skalowania

  • Kompromisy obejmują koszt serwowania, ponownego trenowania i tempo wdrożeń
  • Strategie skalowania: poziome, pionowe, automatyczne
    • Skalowanie poziome: dodawanie kolejnych maszyn
    • Skalowanie pionowe: zwiększenie rozmiaru maszyny
    • Automatyczne skalowanie: dostosowuje liczbę maszyn do obciążenia

skalowanie

1 https://www.spiceworks.com/tech/cloud/articles/horizontal-vs-vertical-cloud-scaling
Tworzenie modeli uczenia maszynowego na potrzeby produkcji

Wybór optymalnej strategii skalowania

  • Skalowanie poziome: równoważenie obciążenia, partycjonowanie

  • Wady skalowania poziomego: złożoność, koszt ($)

  • Skalowanie pionowe: zwiększenie rozmiaru maszyny

  • Wada skalowania pionowego: koszt ($)

Optymalnie – automatyczne skalowanie poziome i pionowe.

skalowanie

1 https://www.spiceworks.com/tech/cloud/articles/horizontal-vs-vertical-cloud-scaling
Tworzenie modeli uczenia maszynowego na potrzeby produkcji

Czas na ćwiczenia!

Tworzenie modeli uczenia maszynowego na potrzeby produkcji

Preparing Video For Download...