まとめ

Pythonで学ぶDaskによる並列プログラミング

James Fulton

Climate Informatics Researcher

振り返り - 第1章

  • タスクグラフ
  • 遅延評価
  • スレッド vs. プロセス
  • dask.delayed()

共有される中間生成物を含むタスクグラフ。

Pythonで学ぶDaskによる並列プログラミング

振り返り - 第2章

  • 大規模な構造化データの分析
  • Dask arrays
  • Dask DataFrames
  • 高度なデータ形式: h5py, zarr, parquet
  • pandasnumpydask

複数のチャンクに分割された配列。

Pythonで学ぶDaskによる並列プログラミング

振り返り - 第3章

  • 大規模な非構造・半構造データには Dask bags
  • 例: JSON、テキスト、音声

動画と音声を含むデータセットの図。

Pythonで学ぶDaskによる並列プログラミング

振り返り - 第4章

  • LocalCluster と他のクラスターの利用
  • Dask-ML
  • 大規模データでの学習
  • 大規模データの遅延前処理
Pythonで学ぶDaskによる並列プログラミング

次のステップ

  • より幅広い関数群(対象)
    • Dask arrays
    • Dask DataFrames
    • Dask bags
  • ドキュメント
Pythonで学ぶDaskによる並列プログラミング

おめでとうございます!

Pythonで学ぶDaskによる並列プログラミング

Preparing Video For Download...