Limites de bigmemory

Traitement de données à grande échelle en R

Michael Kane

Assistant Professor, Yale University

Où utiliser bigmemory ?

  • Vous pouvez utiliser bigmemory lorsque vos données sont
    • des matrices
    • denses
    • numériques
  • Les structures sous-jacentes sont compatibles avec les bibliothèques d'algèbre linéaire bas niveau pour un ajustement de modèle rapide
  • Si vous avez différents types de colonnes, essayez le package ff
Traitement de données à grande échelle en R

Comprendre l'accès disque

Un big.matrix est une structure de données conçue pour l'accès aléatoire

Traitement de données à grande échelle en R

Inconvénients de l'accès aléatoire

  • Impossible d'ajouter des lignes ou des colonnes à un objet big.matrix existant
  • Vous devez disposer de suffisamment d'espace disque pour stocker toute la matrice en un seul bloc
Traitement de données à grande échelle en R

Passons à la pratique !

Traitement de données à grande échelle en R

Preparing Video For Download...