Tự động hóa Data Pipeline trong Snowflake
Emily Melhuish
Technical Curriculum Developer, Snowflake
Bảng động:

Streams và tasks:

Tự động hóa pipeline theo kiểu khai báo
SELECT xác định — mô tả kết quả, Snowflake quản lý làm mớiCREATE DYNAMIC TABLE logistics.delivery_summary
TARGET_LAG = '1 hour'
WAREHOUSE = harbr_wh
AS
SELECT region, COUNT(*) AS shipments,
AVG(delivery_days) AS avg_days
FROM logistics.shipments GROUP BY region;
Thỏa thuận độ tươi giữa bạn và Snowflake
| Giá trị TARGET_LAG | Tác dụng |
|---|---|
'5 minutes' |
Bảng không cũ quá 5 phút — làm mới thường xuyên |
'1 hour' |
Làm mới thưa hơn — giảm chi phí tính toán |
DOWNSTREAM |
Suy ra độ trễ từ bảng phụ thuộc phía sau — lý tưởng cho bảng xâu chuỗi |
Làm mới gia tăng
-- Thân thiện với gia tăng:
SELECT region, COUNT(*) AS shipments
FROM logistics.shipments
GROUP BY region;
Làm mới toàn phần

DOWNSTREAM theo nhu cầu bảng kế tiếp — tránh làm mới quá mứcBảng động: khai báo
-- Khai báo kết quả cho Snowflake
CREATE DYNAMIC TABLE logistics.summary
TARGET_LAG = '1 hour'
WAREHOUSE = harbr_wh
AS SELECT region, COUNT(*)
FROM shipments
GROUP BY 1;
Streams + Tasks: mệnh lệnh
-- Bạn kiểm soát mọi bước
CREATE TASK process_events
SCHEDULE = '5 MINUTE'
WHEN SYSTEM$STREAM_HAS_DATA
('events_stream')
AS CALL logistics.process_new_events();
SELECT name, state, refresh_start_time, refresh_end_time
FROM TABLE (
INFORMATION_SCHEMA.DYNAMIC_TABLE_REFRESH_HISTORY (
NAME_PREFIX => 'HARBR_DB.DELIVERY_SUMMARY.', ERROR_ONLY => TRUE
)
)
ORDER BY name, data_timestamp;
| NAME | TRIGGER | STATE | START | END |
|---|---|---|---|---|
| DELIVERY_SUMMARY | SCHEDULED | SUCCEEDED | 2026-03-01 05:00:00 | 2024-03-01 05:00:08 |
| DELIVERY_SUMMARY | SCHEDULED | FAILED | 2026-03-01 04:00:00 | 2024-03-01 04:00:03 |
Tự động hóa Data Pipeline trong Snowflake