Závěr

Parallel Programming with Dask in Python

James Fulton

Climate Informatics Researcher

Rekapitulace – kapitola 1

  • Grafy úloh
  • Líné vyhodnocování
  • Vlákna vs. procesy
  • dask.delayed()

Graf úloh se sdíleným meziproduktem.

Parallel Programming with Dask in Python

Rekapitulace – kapitola 2

  • Analýza velkých strukturovaných dat
  • Dask arrays
  • Dask DataFrames
  • Pokročilé datové formáty: h5py, zarr, parquet
  • pandas & numpy -> dask

Pole rozdělené do více bloků

Parallel Programming with Dask in Python

Rekapitulace – kapitola 3

  • Dask bags pro velká nestrukturovaná a polostrukturovaná data
  • např. JSON, text a audio

Diagram zobrazující datovou sadu zahrnující video i zvuk.

Parallel Programming with Dask in Python

Rekapitulace – kapitola 4

  • Použití LocalCluster a dalších clusterů
  • Dask-ML
  • Trénování ML na velkých datech
  • Líné předzpracování velkých dat
Parallel Programming with Dask in Python

Další kroky

  • Širší nabídka funkcí pro
    • Dask arrays
    • Dask DataFrames
    • Dask bags
  • Dokumentace na
Parallel Programming with Dask in Python

Gratulujeme!

Parallel Programming with Dask in Python

Preparing Video For Download...