Паралельні обчислення

Розуміння Data Engineering

Hadrien Lacroix

Content Developer at DataCamp

Паралельні обчислення

  • Основа сучасних інструментів обробки даних
  • Потрібні:
    • Передусім через пам'ять
    • Також через обчислювальну потужність
  • Як це працює:
    • Розбийте завдання на менші підзавдання
    • Розподіліть їх між кількома комп'ютерами
Розуміння Data Engineering

1000 футболок

Розуміння Data Engineering

старший продавець-консультант

Розуміння Data Engineering

молодший продавець-консультант

1 Emojis: Mohamed Hassan
Розуміння Data Engineering

по одному продавцю-консультанту за раз

Розуміння Data Engineering

об'єднання футболок у партії

Розуміння Data Engineering

молодші консультанти завершують за годину й п'ятнадцять хвилин

Розуміння Data Engineering

старші консультанти завершують за дві години й тринадцять хвилин

Розуміння Data Engineering

Переваги та ризики паралельних обчислень

  • Працівники = обчислювальні блоки
  • Переваги
    • Додаткова обчислювальна потужність
    • Менший слід у пам'яті
  • Недоліки
    • Переміщення даних має вартість
    • Час на комунікацію
Розуміння Data Engineering

порівняння ефективності молодших і старших продавців-консультантів

Розуміння Data Engineering

розподілити тисячу футболок між чотирма молодшими консультантами займає десять хвилин

Розуміння Data Engineering

зібрати футболки від чотирьох молодших консультантів в одну купу займає п'ять хвилин

Розуміння Data Engineering

конвеєр даних

Розуміння Data Engineering

конвеєр даних

Розуміння Data Engineering

Підсумок

  • Переваги та ризики
  • Як це реалізовано в Spotflix
Розуміння Data Engineering

Давайте потренуємось!

Розуміння Data Engineering

Preparing Video For Download...