Mapowanie przyszłości

Programowanie równoległe w R

Nabeel Imam

Data Scientist

Znamy nasze futures

report <- "<important report text>"

task_future <- future({
  print("Hi, please find attached the report.")
  report
})

Mapowanie z purrr

library(purrr)


numbers <- 1:1000000
map(numbers, sqrt)

[[1]]
[1] 1

[[2]]
[1] 1.414214

[[3]]
[1] 1.732051

[[4]]
[1] 2
...

Warianty map

map_dbl(numbers, sqrt)

 [1]  1.000000  1.414214  1.732051 
 [4]  2.000000  2.236068  2.449490
 [7]  2.645751  2.828427  3.000000  
[10]  3.162278  3.316625  3.464102
[13]  3.605551  3.741657  3.872983
  ...

map + sufiks "_dbl"
- Dla wyjścia zmiennoprzecinkowego

Wyniki zwracane jako wektor

Warianty map

map_chr(numbers, sqrt)

 [1] "1.000000"  "1.414214"  "1.732051"
 [4] "2.000000"  "2.236068"  "2.449490"
 [7] "2.645751"  "2.828427"  "3.000000"
[10] "3.162278"  "3.316625"  "3.464102"
[13] "3.605551"  "3.741657"  "3.872983"
  ...

map + sufiks "_chr"
- Dla wyjścia tekstowego (znaki/ciągi)

Wektor ciągów znaków

Warianty map

Funkcja

map()
map_chr()
map_dbl()
map_int()
map_lgl()

Format wyjściowy

Lista wektorów, ramek danych itp.
Znak lub ciąg znaków (jedna wartość)
Liczba zmiennoprzecinkowa (jedna wartość)
Liczba całkowita (jedna wartość)
Wartość logiczna/boolowska (jedna wartość)

Określanie typów

microbenchmark(
  "map" = map(numbers, sqrt),
  "map_dbl" = map_dbl(numbers, sqrt),
  "map_chr" = map_chr(numbers, sqrt),
  times = 10
)

Unit: milliseconds
     expr     min    mean     max neval
1     map  794.20 1254.46 1904.02    10
2 map_dbl  889.33 1067.41 1496.56    10
3 map_chr 1735.96 1934.97 2269.59    10

future + purrr = furrr

purrr

Sekwencyjnie

library(purrr)
map_dbl(1:1000000, sqrt)

furrr

Sekwencyjnie

library(furrr)
future_map_dbl(1:1000000, sqrt)

furrr w trybie równoległym

n_cores <- detectCore() - 2


plan(multisession, workers = n_cores)


future_map_dbl(1:1000000, sqrt) # Future enabled map_dbl()


plan(sequential)

   [1]  1.000000  1.414214  1.732051  2.000000  2.236068  2.449490  2.645751
   [8]  2.828427  3.000000  3.162278  3.316625  3.464102  3.605551  3.741657
  [15]  3.872983  4.000000  4.123106  4.242641  4.358899  4.472136  4.582576

future_map i rodzina

Funkcja purrr

map()
map_chr()
map_dbl()
map_int()
map_lgl()

Funkcja furrr z obsługą future

future_map()
future_map_chr()
future_map_dbl()
future_map_int()
future_map_lgl()

Zalety furrr

Dla listy danych wejściowych input_list i funkcji calculate():

future_list <- lapply(input_list, function (x) future(calculate(x)))

result_list <- value(future_list)

# Further processing of result_list to make a numeric vector

library(furrr)

# Using future_map_dbl() variant to get a numeric vector
result_list <- future_map_dbl(input_list, calculate)

Czas na ćwiczenia!

Programowanie równoległe w R