Phục vụ dữ liệu

Tìm hiểu Kiến trúc Dữ liệu Hiện đại

Miller Trujillo

Senior Software Engineer

Lớp phục vụ

Kiến trúc Big Data tổng quát: nguồn dữ liệu, thu nạp, lưu trữ, xử lý, điều phối, quản trị, phục vụ, lưu trữ phân tích và báo cáo

  • Lưu dữ liệu đã xử lý ở đâu
  • Giao thức để tiêu thụ
Tìm hiểu Kiến trúc Dữ liệu Hiện đại

Ta có dữ liệu gì?

  • Ta có dữ liệu gì?
    • Dữ liệu có cấu trúc không?
    • Dữ liệu là chuỗi thời gian?
  • Dữ liệu sẽ được tiêu thụ thế nào?

Kho dữ liệu

  • Data Warehouse
    • Báo cáo/Bảng điều khiển tự động
    • BI/Phân tích dữ liệu
    • Truy vấn trực tiếp
  • Lưu trữ blob
  • CSDL chuỗi thời gian
  • CSDL NoSQL
Tìm hiểu Kiến trúc Dữ liệu Hiện đại

Dữ liệu sẽ được tiêu thụ thế nào?

  • Kho dữ liệu
    • Báo cáo/bảng điều khiển tự động
    • BI/Phân tích dữ liệu
    • Truy vấn trực tiếp
  • Mô hình học máy
  • Ứng dụng
    • Thông tin tổng hợp
    • Bản ghi cá nhân
  • Không có giải pháp chung cho mọi trường hợp!

Python & R

API/Tính toán

Tìm hiểu Kiến trúc Dữ liệu Hiện đại

Phục vụ dữ liệu theo trường hợp sử dụng

Hệ thống Loại dữ liệu Trường hợp tiêu thụ Công cụ
Kho dữ liệu Dữ liệu có cấu trúc, xử lý được bán cấu trúc Truy vấn phân tích, BI/Phân tích, báo cáo/bảng điều khiển BigQuery, Redshift, Snowflake
Lưu trữ blob Mọi loại dữ liệu Mô hình ML xử lý video/hình ảnh, lưu trữ dài hạn S3, Cloud Storage, Azure Storage
CSDL NoSQL Bán cấu trúc, chuỗi thời gian Phơi bày qua API, nhu cầu cao BigTable, DataStore, DynamoDB, CosmosDB
RDBMS Dữ liệu có cấu trúc, xử lý được bán cấu trúc Tiêu thụ bản ghi cá nhân, phơi bày API, nhu cầu thấp hơn Postgres, MySQL, Oracle
Tìm hiểu Kiến trúc Dữ liệu Hiện đại

Phục vụ vs. tiêu thụ

Phục vụ vs. tiêu thụ dữ liệu

Tìm hiểu Kiến trúc Dữ liệu Hiện đại

Ayo berlatih!

Tìm hiểu Kiến trúc Dữ liệu Hiện đại

Preparing Video For Download...