Điều phối trong Databricks

Các khái niệm về Databricks

Kevin Barlow

Data Analytics Practitioner

Điều phối dữ liệu là gì?

  • Điều phối dữ liệu là một dạng tự động hóa!

Kỹ sư dữ liệu

  • Giúp kỹ sư dữ liệu tự động hóa vòng đời dữ liệu đầu-cuối
Các khái niệm về Databricks

Databricks Workflows

Databricks Workflows là tập hợp khả năng tích hợp sẵn để điều phối mọi quy trình dữ liệu, không tốn thêm chi phí!

Ví dụ về Databricks Workflow

Sơ đồ Databricks Workflows

1 https://docs.databricks.com/workflows
Các khái niệm về Databricks

Chúng ta có thể điều phối gì?

Kỹ sư dữ liệu/nhà khoa học dữ liệu

Nhiệm vụ điều phối - DE / DS

Nhà phân tích dữ liệu

Nhiệm vụ điều phối - DA

Các khái niệm về Databricks

Databricks Jobs

Giao diện Workflows

Người dùng có thể tạo job trực tiếp từ giao diện Databricks:

  • Trực tiếp từ notebook
  • Trong mục Workflows

Giao diện Databricks Jobs

1 https://docs.databricks.com/workflows/jobs
Các khái niệm về Databricks

Databricks Jobs

Lập trình hóa

Người dùng cũng có thể tạo job bằng Jobs CLI hoặc Jobs API trên nền tảng Databricks.

{
  "name": "A multitask job",
  "tags": {},
  "tasks": [],
  "job_clusters": [],
  "format": "MULTI_TASK",
}
Các khái niệm về Databricks

Delta Live Tables

Sơ đồ Delta Live Tables

Các khái niệm về Databricks

Delta Live Tables

Sơ đồ Delta Live Tables

Các khái niệm về Databricks

Delta Live Tables

Sơ đồ Delta Live Tables

Các khái niệm về Databricks

Ayo berlatih!

Các khái niệm về Databricks

Preparing Video For Download...