Підсумок

Паралельне програмування з Dask у Python

James Fulton

Climate Informatics Researcher

Підсумок — розділ 1

  • Графи завдань
  • Ліниві обчислення
  • Потоки vs процеси
  • dask.delayed()

Граф завдань із спільним проміжним результатом.

Паралельне програмування з Dask у Python

Підсумок — розділ 2

  • Аналіз великих структурованих даних
  • Масиви Dask
  • Датафрейми Dask
  • Розширені формати даних: h5py, zarr, parquet
  • Від pandas і numpy до dask

Масив, розбитий на кілька чанків

Паралельне програмування з Dask у Python

Підсумок — розділ 3

  • Dask bags для великих неструктурованих і напівструктурованих даних
  • напр., JSON, текст і аудіо

Схема набору даних, що містить відео й звук.

Паралельне програмування з Dask у Python

Підсумок — розділ 4

  • Використання LocalCluster та інших кластерів
  • Dask-ML
  • Навчання ML на великих даних
  • Лінива передобробка великих даних
Паралельне програмування з Dask у Python

Подальші кроки

  • Більше функцій для
    • Масивів Dask
    • Датафреймів Dask
    • Dask bags
  • Документація:
Паралельне програмування з Dask у Python

Вітаємо!

Паралельне програмування з Dask у Python

Preparing Video For Download...