Czy powinniśmy zrównoleglać?

Programowanie równoległe w R

Nabeel Imam

Data Scientist

Budujemy budynek

Budowanie kolejnego piętra: sekwencyjne

Montaż okien w gotowej konstrukcji: równoległe

Budynek w trakcie budowy. Piętra można wznosić tylko sekwencyjnie, natomiast okna można montować równolegle.

Skala: sekwencyjne – równoległe

Typowe zadania obliczeniowe umieszczono na skali od sekwencyjnych do równoległych. Tworzenie nowych zmiennych jest bliżej końca równoległego, a suma skumulowana – bliżej sekwencyjnego.

Klasyczna operacja numeryczna

Obliczanie pierwiastków kwadratowych z miliona liczb

numbers <- 1:1000000


start <- Sys.time()
sq_roots <- lapply(numbers, sqrt)
end <- Sys.time()


end - start

Time difference of 1.044573 secs

Jak zrównoleglić obliczanie pierwiastków?

Schemat blokowy równoległego obliczania pierwiastków kwadratowych. Liczby od 1 do miliona są podzielone na pięć grup po 200 000 elementów.

Jak zrównoleglić obliczanie pierwiastków?

Podzielone dane są wysyłane do klastra złożonego z wielu rdzeni. Każda grupa liczb trafia do jednego rdzenia w celu obliczenia pierwiastka kwadratowego. Jeśli wszystkie rdzenie są zajęte, nowe grupy czekają na zwolnienie rdzenia.

Jak zrównoleglić obliczanie pierwiastków?

Pierwiastki kwadratowe są zbierane z każdego rdzenia i łączone w milion wyników.

Zrównoleglona operacja numeryczna

Pierwiastki kwadratowe z miliona liczb – równolegle

library(parallel)


my_cluster <- makeCluster(3)


start <- Sys.time()
sq_roots <- parLapply(my_cluster, numbers, sqrt)
end <- Sys.time()


stopCluster(my_cluster)


end - start