Referencje i kopie

Skalowalne przetwarzanie danych w R

Simon Urbanek

Member of R-Core, Lead Inventive Scientist, AT&T Labs Research

Duże macierze i macierze – podobieństwa

  • Indeksowanie
  • Przypisywanie
Skalowalne przetwarzanie danych w R

Duże macierze i macierze – różnice

  • big.matrix jest przechowywany na dysku
  • Trwa między sesjami R
  • Może być współdzielony między sesjami R
Skalowalne przetwarzanie danych w R

R zazwyczaj tworzy kopie podczas przypisywania

Tworzy kopię a i przypisuje ją do b.

a <- 42
b <- a
a
42
b
42
a <- 43
a
43
b
42
Skalowalne przetwarzanie danych w R

R zazwyczaj tworzy kopie podczas przypisywania

a <- 42

foo <- function(a){a <- 43 paste("Inside the function a is", a)}
foo(a)
"Inside the function a is 43"
paste("Outside the function a is still", a)
"Outside the function a is still 42"
Skalowalne przetwarzanie danych w R

Nie wszystkie obiekty R są kopiowane

Ta funkcja zmienia wartość a w środowisku globalnym

foo <- function(a) {a$val <- 43 
                    paste("Inside the function a is", a$val)}
a <- environment()
a$val <- 42
foo(a)
"Inside the function a is 43"
paste("Outside the function a$val is", a$val)
"Outside the function a$val is 43"
Skalowalne przetwarzanie danych w R

deepcopy()

# x is a big matrix
x <- big.matrix(...)

# x_no_copy and x refer to the same object
x_no_copy <- x

# x_copy and x refer to different objects
x_copy <- deepcopy(x)

Skalowalne przetwarzanie danych w R

Zachowanie referencyjne

R nie tworzy kopii niejawnie

  • Minimalizacja zużycia pamięci
  • Skrócenie czasu wykonania
Skalowalne przetwarzanie danych w R

Nie wszystkie obiekty R są kopiowane

library(bigmemory)

x <- big.matrix(nrow = 1, ncol = 3, type = "double", 
                init = 0, 
                backingfile = "hello-bigmemory.bin", 
                descriptorfile = "hello-bigmemory.desc")
Skalowalne przetwarzanie danych w R

Nie wszystkie obiekty R są kopiowane

x_no_copy <- x
x[,]
0 0 0
x_no_copy[,]
0 0 0
x[,] <- 1
x[,]
1 1 1
x_no_copy[,]
1 1 1
Skalowalne przetwarzanie danych w R

Nie wszystkie obiekty R są kopiowane

x_copy <- deepcopy(x)
x[,]
1 1 1
x_copy[,]
1 1 1
x[,] <- 2
x[,]
2 2 2
x_copy[,]
1 1 1
Skalowalne przetwarzanie danych w R

Czas na ćwiczenia!

Skalowalne przetwarzanie danych w R

Preparing Video For Download...