Ograniczenia bigmemory

Skalowalne przetwarzanie danych w R

Michael Kane

Assistant Professor, Yale University

Kiedy używać bigmemory?

  • bigmemory można stosować, gdy dane są:
    • macierzami
    • gęste
    • numeryczne
  • Struktury danych są zgodne z niskopoziomowymi bibliotekami algebry liniowej dla szybkiego dopasowywania modeli
  • Przy różnych typach kolumn można wypróbować pakiet ff
Skalowalne przetwarzanie danych w R

Dostęp do dysku

big.matrix to struktura danych zaprojektowana do losowego dostępu

Skalowalne przetwarzanie danych w R

Wady losowego dostępu

  • Nie można dodawać wierszy ani kolumn do istniejącego obiektu big.matrix
  • Wymagana jest wystarczająca ilość miejsca na dysku, aby przechować całą macierz w jednym bloku
Skalowalne przetwarzanie danych w R

Czas na ćwiczenia!

Skalowalne przetwarzanie danych w R

Preparing Video For Download...