Dovremmo parallelizzare?

Programmazione parallela in R

Nabeel Imam

Data Scientist

Costruiamo un edificio

Costruire un piano sopra il precedente: sequenziale

Installare le finestre sulla struttura finita: parallelo

Un edificio è in costruzione. I piani si possono costruire solo in sequenza, mentre le finestre si possono installare in parallelo.

La scala sequenziale–parallelo

Attività di calcolo comuni sono disposte su una scala: da sequenziale a un estremo a parallelo all’altro. Creare nuove variabili è vicino al parallelo, mentre la somma cumulativa è vicino al sequenziale.

Un’operazione numerica classica

Calcolare le radici quadrate di un milione di numeri

numbers <- 1:1000000


start <- Sys.time()
sq_roots <- lapply(numbers, sqrt)
end <- Sys.time()


end - start

Time difference of 1.044573 secs

Come parallelizzare la radice quadrata?

Diagramma di flusso per calcolare in parallelo le radici quadrate. I numeri interi da uno a un milione sono divisi in cinque gruppi da 200.000 ciascuno.

Come parallelizzare la radice quadrata?

I dati divisi vengono inviati a un cluster con più core. Ogni gruppo di numeri va a un core per calcolare la radice quadrata. Se tutti i core sono occupati, i nuovi gruppi aspettano che se ne liberi uno.

Come parallelizzare la radice quadrata?

Le radici quadrate da ogni core vengono raccolte e combinate per ottenere un milione di radici quadrate.

Un’operazione numerica parallelizzata

Le radici quadrate di un milione di numeri in parallelo

library(parallel)


my_cluster <- makeCluster(3)


start <- Sys.time()
sq_roots <- parLapply(my_cluster, numbers, sqrt)
end <- Sys.time()


stopCluster(my_cluster)


end - start