並列コンピューティング

データエンジニアリングを理解する

Hadrien Lacroix

Content Developer at DataCamp

並列コンピューティング

  • 現代のデータ処理ツールの基礎
  • 必要:
    • 主にメモリのために
    • また処理能力のためにも
  • 仕組み:
    • タスクを複数の小さなサブタスクに分割する
    • これらのサブタスクを複数のコンピューターに分散する
データエンジニアリングを理解する

Tシャツ1000枚

データエンジニアリングを理解する

シニア営業アシスタント

データエンジニアリングを理解する

ジュニア営業アシスタント

1 絵文字提供:Mohamed Hassan
データエンジニアリングを理解する

一度に1人の営業アシスタント

データエンジニアリングを理解する

Tシャツのバッチ処理

データエンジニアリングを理解する

1時間15分で終わるジュニアセールスアシスタント

データエンジニアリングを理解する

2時間13分で終了するシニア営業アシスタント

データエンジニアリングを理解する

並列コンピューティングの利点とリスク

  • 従業員 = 処理ユニット
  • 利点
    • 追加の処理能力
    • メモリフットプリントを削減
  • デメリット
    • データの移動にはコストがかかります
    • コミュニケーション時間
データエンジニアリングを理解する

ジュニアとシニアの営業アシスタントのパフォーマンス比較

データエンジニアリングを理解する

1,000枚のTシャツを4人のジュニアアシスタントに配るのに10分かかる

データエンジニアリングを理解する

4人のジュニアアシスタントからTシャツを1つの山に集めるのに5分かかる

データエンジニアリングを理解する

データパイプライン

データエンジニアリングを理解する

データパイプライン

データエンジニアリングを理解する

概要

  • 利点とリスク
  • Spotflixでどのように実装されているか
データエンジニアリングを理解する

練習しましょう!

データエンジニアリングを理解する

Preparing Video For Download...