Стоит ли распараллеливать?

Параллельное программирование на R

Nabeel Imam

Data Scientist

Строим здание

Возведение этажа на предыдущий: последовательно

Установка окон в готовую конструкцию: параллельно

Строящееся здание. Этажи возводятся только последовательно, тогда как окна можно устанавливать параллельно.

Шкала: последовательное — параллельное

Типичные вычислительные задачи расположены на шкале от последовательных к параллельным. Создание новых переменных — ближе к параллельному концу, накопленная сумма — ближе к последовательному.

Классическая численная операция

Вычисление квадратных корней из миллиона чисел

numbers <- 1:1000000


start <- Sys.time()
sq_roots <- lapply(numbers, sqrt)
end <- Sys.time()


end - start

Time difference of 1.044573 secs

Как распараллелить вычисление корней?

Схема параллельного вычисления квадратных корней. Целые числа от 1 до миллиона разбиваются на пять групп по 200 000 элементов.

Как распараллелить вычисление корней?

Разбитые данные отправляются в кластер из нескольких ядер. Каждая группа чисел передаётся на одно ядро для вычисления корня. Если все ядра заняты, новые группы ожидают освобождения.

Как распараллелить вычисление корней?

Квадратные корни собираются с каждого ядра и объединяются в итоговый результат из миллиона значений.

Параллельная численная операция

Квадратные корни из миллиона чисел в параллельном режиме

library(parallel)


my_cluster <- makeCluster(3)


start <- Sys.time()
sq_roots <- parLapply(my_cluster, numbers, sqrt)
end <- Sys.time()


stopCluster(my_cluster)


end - start