Mapeando o futuro

Programação Paralela em R

Nabeel Imam

Data Scientist

Conhecemos nossos futures

report <- "<important report text>"

task_future <- future({
  print("Hi, please find attached the report.")
  report
})

Mapeando com purrr

library(purrr)


numbers <- 1:1000000
map(numbers, sqrt)

[[1]]
[1] 1

[[2]]
[1] 1.414214

[[3]]
[1] 1.732051

[[4]]
[1] 2
...

Variações de map

map_dbl(numbers, sqrt)

 [1]  1.000000  1.414214  1.732051 
 [4]  2.000000  2.236068  2.449490
 [7]  2.645751  2.828427  3.000000  
[10]  3.162278  3.316625  3.464102
[13]  3.605551  3.741657  3.872983
  ...

map + sufixo "_dbl"
- Para saída double ou decimal

Resultados como vetor

Variações de map

map_chr(numbers, sqrt)

 [1] "1.000000"  "1.414214"  "1.732051"
 [4] "2.000000"  "2.236068"  "2.449490"
 [7] "2.645751"  "2.828427"  "3.000000"
[10] "3.162278"  "3.316625"  "3.464102"
[13] "3.605551"  "3.741657"  "3.872983"
  ...

map + sufixo "_chr"
- Para saída de caracteres/strings

Vetor de strings

Variações de map

Função

map()
map_chr()
map_dbl()
map_int()
map_lgl()

Formato de saída

Lista de vetores, data frames etc.
Caractere/string (um valor)
Números double/decimais (um valor)
Inteiros/números inteiros (um valor)
Lógico/booleano (um valor)

Especificação de tipo

microbenchmark(
  "map" = map(numbers, sqrt),
  "map_dbl" = map_dbl(numbers, sqrt),
  "map_chr" = map_chr(numbers, sqrt),
  times = 10
)

Unit: milliseconds
     expr     min    mean     max neval
1     map  794.20 1254.46 1904.02    10
2 map_dbl  889.33 1067.41 1496.56    10
3 map_chr 1735.96 1934.97 2269.59    10

future + purrr = furrr

purrr

Sequencial

library(purrr)
map_dbl(1:1000000, sqrt)

furrr

Sequencial

library(furrr)
future_map_dbl(1:1000000, sqrt)

furrr em paralelo

n_cores <- detectCore() - 2


plan(multisession, workers = n_cores)


future_map_dbl(1:1000000, sqrt) # Future enabled map_dbl()


plan(sequential)

   [1]  1.000000  1.414214  1.732051  2.000000  2.236068  2.449490  2.645751
   [8]  2.828427  3.000000  3.162278  3.316625  3.464102  3.605551  3.741657
  [15]  3.872983  4.000000  4.123106  4.242641  4.358899  4.472136  4.582576

future_map e família

Função do purrr

map()
map_chr()
map_dbl()
map_int()
map_lgl()

Função do furrr com future

future_map()
future_map_chr()
future_map_dbl()
future_map_int()
future_map_lgl()

A vantagem do furrr

Dada uma série de entradas, input_list, e uma função a mapear, calculate():

future_list <- lapply(input_list, function (x) future(calculate(x)))

result_list <- value(future_list)

# Processamento adicional de result_list para formar um vetor numérico

library(furrr)

# Usando a variante future_map_dbl() para obter um vetor numérico
result_list <- future_map_dbl(input_list, calculate)

Vamos praticar!

Programação Paralela em R