平行運算中的可重現性

R 平行程式設計

Nabeel Imam

Data Scientist

什麼是可重現性？

相同輸入，每次執行都得到相同結果

程式碼可測試
他人可重現結果

多行程式碼產生圓餅圖。再次執行相同程式碼，也產生完全相同的圓餅圖。

顧客抽獎

print(customer_ids)

$USA
   [1] 465500 612953 106420 279492 376941 163474 164493 801983 898941 406844 829157 ...
$Canada
   [1] 140521 398164 817703 715385 771801 656814 721270 719120 425819 774558 111418 ...
$Mexico
   [1] 714842 486725 706765 858020 790364 390760 198667 419197 352989 202494 756636 ...
$UK
   [1] 886285 151731 274940 779966 375535 431644 880434 649074 765423 449147 408041 ...

顧客抽獎

lucky_draw <- function (ids) {
  sample(ids, 1)
}


cl <- makeCluster(4)


set.seed(1234)

parLapply(cl, customer_ids, lucky_draw)
stopCluster(cl)

$USA
[1] 673576

$Canada
[1] 164613

$Mexico
[1] 769658

$UK
[1] 683102

可重現性的問題

第一次的中獎者

$USA
[1] 673576

$Canada
[1] 164613

$Mexico
[1] 769658

$UK
[1] 683102

第二次的中獎者

$USA
[1] 638051

$Canada
[1] 133431

$Mexico
[1] 522137

$UK
[1] 856141

解法

cl <- makeCluster(4)


# 針對叢集內所有工作程序設定種子
clusterSetRNGStream(cl, 1234)


parLapply(cl, customer_ids, lucky_draw)
stopCluster(cl)

多次執行，結果相同

第一次的中獎者

$USA
[1] 421408

$Canada
[1] 877562

$Mexico
[1] 460786

$UK
[1] 658513

第二次的中獎者

$USA
[1] 421408

$Canada
[1] 877562

$Mexico
[1] 460786

$UK
[1] 658513

多次執行，結果相同

第一次執行

cl <- makeCluster(4)

clusterSetRNGStream(cl, 1234)


run1 <- parLapply(cl, customer_ids, lucky_draw)
stopCluster(cl)

第二次執行

cl <- makeCluster(4)

clusterSetRNGStream(cl, 1234)

run2 <- parLapply(cl, customer_ids, lucky_draw)
stopCluster(cl)


identical(run1, run2)

[1] TRUE

使用 furrr 的可重現結果

第一次執行

config <- furrr_options(seed = 1234)


plan(multisession, workers = 4)

run1 <- future_map(customer_ids, lucky_draw,
                   .options = config)
plan(sequential)

第二次執行

plan(multisession, workers = 4)

run2 <- future_map(customer_ids, lucky_draw,
                  # 使用相同的設定
                  .options = config)
plan(sequential)

identical(run1, run2)

[1] TRUE

使用 foreach 的可重現結果

第一次執行

install.packages("doRNG")
library(doRNG)


cl <- makeCluster(4)
registerDoParallel(cl)

registerDoRNG(1234)


run1 <- foreach(i = customer_ids) %dopar% {
  lucky_draw(i)
}
stopCluster(cl)

第二次執行

cl <- makeCluster(4)
registerDoParallel(cl)
registerDoRNG(1234) # 相同種子

run2 <- foreach(i = customer_ids) %dopar% {
  lucky_draw(i)
}
stopCluster(cl)

identical(run1, run2)

[1] TRUE

何時要考慮可重現性

直接呼叫隨機數產生器
- rnorm、rbinom 等
隨機抽樣
- 自助法（bootstrap）
- 來自 dplyr 的 sample_n()

一起來練習吧！

R 平行程式設計