平行運算

Understanding Data Engineering

Hadrien Lacroix

Content Developer at DataCamp

平行運算

  • 現代資料處理工具的基礎
  • 為何需要:
    • 主要因為記憶體
    • 也為了運算能力
  • 運作方式:
    • 將任務拆成較小子任務
    • 把子任務分配到多部電腦
Understanding Data Engineering

1000 件 T 恤

Understanding Data Engineering

資深業務助理

Understanding Data Engineering

資淺業務助理

1 Emojis 由 Mohamed Hassan 製作
Understanding Data Engineering

一次只有一位業務助理

Understanding Data Engineering

成批處理 T 恤

Understanding Data Engineering

資淺助理在 1 小時 15 分鐘內完成

Understanding Data Engineering

資深助理在 2 小時 13 分鐘內完成

Understanding Data Engineering

平行運算的利弊

  • 員工 = 處理單元
  • 優點
    • 額外運算能力
    • 降低記憶體占用
  • 缺點
    • 移動資料有成本
    • 溝通時間
Understanding Data Engineering

比較資淺與資深助理的表現

Understanding Data Engineering

將 1000 件 T 恤分派給 4 位資淺助理需 10 分鐘

Understanding Data Engineering

從 4 位資淺助理收回 T 恤彙整成一堆需 5 分鐘

Understanding Data Engineering

資料管線

Understanding Data Engineering

資料管線

Understanding Data Engineering

重點整理

  • 利弊
  • 在 Spotflix 的實作方式
Understanding Data Engineering

一起來練習吧!

Understanding Data Engineering

Preparing Video For Download...