Параллельные вычисления

Введение в дата-инжиниринг

Hadrien Lacroix

Content Developer at DataCamp

Параллельные вычисления

  • Основа современных инструментов обработки данных
  • Необходимость:
    • Прежде всего — ограничения памяти
    • Также — вычислительная мощность
  • Принцип работы:
    • Задача разбивается на небольшие подзадачи
    • Подзадачи распределяются между несколькими компьютерами
Введение в дата-инжиниринг

1000 футболок

Введение в дата-инжиниринг

старший продавец-консультант

Введение в дата-инжиниринг

младший продавец-консультант

1 Эмодзи: Mohamed Hassan
Введение в дата-инжиниринг

один продавец-консультант за раз

Введение в дата-инжиниринг

разбивка футболок на партии

Введение в дата-инжиниринг

младшие продавцы завершают работу за 1 час 15 минут

Введение в дата-инжиниринг

старший продавец завершает работу за 2 часа 13 минут

Введение в дата-инжиниринг

Преимущества и риски параллельных вычислений

  • Сотрудники = вычислительные единицы
  • Преимущества
    • Дополнительная вычислительная мощность
    • Снижение потребления памяти
  • Недостатки
    • Передача данных требует ресурсов
    • Затраты на коммуникацию
Введение в дата-инжиниринг

сравнение производительности младшего и старшего продавцов

Введение в дата-инжиниринг

на распределение 1000 футболок между четырьмя младшими консультантами уходит 10 минут

Введение в дата-инжиниринг

на сбор футболок от четырёх младших консультантов в одну стопку уходит 5 минут

Введение в дата-инжиниринг

конвейер данных

Введение в дата-инжиниринг

конвейер данных

Введение в дата-инжиниринг

Итоги

  • Преимущества и риски
  • Реализация в Spotflix
Введение в дата-инжиниринг

Давайте потренируемся!

Введение в дата-инжиниринг

Preparing Video For Download...