Більше можливостей з future_map()

Паралельне програмування в R

Nabeel Imam

Data Scientist

Дані та задум

head(data)

   state  year month plurality
 1 AK     1995     1         1
 2 AK     1995     1         1
 3 AK     1995     1         1
 4 AK     1995     1         1
 5 AK     1995     1         1
 6 AK     1995     1         1

Створення нового символьного стовпця

twins <- function (x) {
    ifelse(x == 2,"Twins", "Not twins")
}

Позначення двієнь

plan(multisession, workers = 4)


data %>%
 mutate(label = future_map_chr(plurality, twins))


plan(sequential)

   state  year month plurality label    
 1 AK     1995     1         1 Not twins
 2 AK     1995     1         1 Not twins
 3 AK     1995     1         1 Not twins
 4 AK     1995     1         1 Not twins
 5 AK     1995     1         1 Not twins
 6 AK     1995     1         1 Not twins
 7 AK     1995     1         1 Not twins
 8 AK     1995     1         1 Not twins
 9 AK     1995     1         1 Not twins
10 AK     1995     1         1 Not twins
...

Позначення двієнь

microbenchmark(
  "map_chr" = {
    data %>%
 mutate(label = map_chr(plurality, twins))
  },
  "future_map_chr" = {
    data %>%
 mutate(label = future_map_chr(plurality, twins))
  }
)

Unit: seconds
            expr     mean   median neval
1        map_chr 72.69067 73.50705    10
2 future_map_chr 34.52351 34.56357    10

Блок-схема створення стовпця "label" за допомогою map_chr() і future_map_chr(). Використання future_map_chr() скорочує час виконання на 50%.

Операції за групами

Частка двієнь

birth_prop <- function (df) {

  N <- sum(df$plurality == 2)  # Загальна кількість двієнь
  prop <- N/nrow(df)           # Частка від усіх народжень
  names(prop) <- "proportion"  # Назва для значення

  return(prop) 
}

Операції за групами

Набір даних має групи A, B і C. Дані ділять за групами, агрегують значення й об'єднують, отримуючи по одному рядку на групу.

Операції за групами

plan(multisession, workers = 6)


data %>%
  # Розбийте за роком, передайте в future_map_dfr()
  split(data$state) %>%

  # Тут передаємо лише функцію
  future_map_dfr(birth_prop,

  # Назву групувальної колонки — в аргумент .id
                 .id = "state")

plan(sequential)

Результати склеєні рядками в один датафрейм

   year  proportion
 1 AK        0.0114
 2 AL        0.0264
 3 AR        0.0196
 4 AZ        0.0218
 5 CA        0.0197
 6 CO        0.0217
 7 CT        0.0225
 8 DC        0.0283
 9 DE        0.0268
10 FL        0.0212
...

Використання глобальних змінних

# Другий аргумент задає значення plurality
birth_prop <- function (df, plur_value) {

  N <- sum(df$plurality == plur_value) # К-сть народжень із заданою кратністю
  prop <- N/nrow(df)                   
  names(prop) <- "proportion"          

  return(prop) 
}


new_plur <- 3 # Глобальна одновимірна змінна

Використання глобальних змінних

config <- furrr_options(globals = "new_plur")


plan(multisession, workers = 4)


data %>%
  split(data$state) %>% 
  future_map_dfr(birth_prop,
                 plur_value = new_plur,
                 .options = config,
                 .id = "state")

plan(sequential)

   state proportion
 1 AK      0       
 2 AL      0.000659
 3 AR      0       
 4 AZ      0.000605
 5 CA      0.000673
 6 CO      0.000776
 7 CT      0.000867
 8 DC      0.00189 
 9 DE      0       
10 FL      0.00106
...

Приєднання стовпців до датафрейму

data %>%
  split(data$state) %>% 
  future_map_dfc(birth_prop, # Варіант _dfc
                 plur_value = new_plur,
                 .options = config)

     AK       AL    AR       AZ       CA       CO       CT      DC
1     0 0.000659     0 0.000605 0.000673 0.000776 0.000867 0.00189 ...

Давайте потренуємось!

Паралельне програмування в R