Profil Kueri, Riwayat, dan Insights

Otomatisasi Data Pipeline di Snowflake

Emily Melhuish

Technical Curriculum Developer, Snowflake

Mengapa Query Profile

dasbor operasi

  • Snowflake bisa memindai data yang seharusnya tidak disentuh sama sekali
Otomatisasi Data Pipeline di Snowflake

Membuka Query Profile di Snowsight

Cara membuka query profile

Akses via: Monitoring > Query History > [Pilih Kueri] > Tab Query Profile

Otomatisasi Data Pipeline di Snowflake

Membaca Pohon Operator

Snowsight Query Profile menampilkan grafik operator dengan panel Most Expensive Nodes

Otomatisasi Data Pipeline di Snowflake

Empat Masalah Umum yang Terungkap oleh Query Profile

Exploding Joins

  • Menghasilkan lebih banyak baris daripada yang dapat dikonsumsi

Union tanpa All

  • Menambah Aggregate di atas UNION untuk menghapus duplikat
  • Biaya = waktu tambahan

Spill ke Disk

  • Operator intensif memori kehabisan memori
  • Operator seperti Aggregate, Sort, atau Join besar.

Pruning Tidak Efisien

  • Terlihat saat partisi dipindai mendekati total partisi
  • Filter tidak bekerja efektif
Otomatisasi Data Pipeline di Snowflake

Spill ke Disk: Lokal vs Remote

  • Local spill → SSD warehouse - lebih lambat dari memori, masih tertangani
  • Remote spill → penyimpanan cloud - jauh lebih lambat; harus ditangani

Kueri Diagnostik

SELECT 
query_id,
bytes_spilled_to_local_storage,
bytes_spilled_to_remote_storage
FROM SNOWFLAKE.ACCOUNT_USAGE.QUERY_HISTORY
WHERE bytes_spilled_to_remote_storage > 0
ORDER BY bytes_spilled_to_remote_storage DESC
LIMIT 10;
Otomatisasi Data Pipeline di Snowflake

QUERY_HISTORY: Visibilitas Se-Akun

  • ACCOUNT_USAGE.QUERY_HISTORY - view dengan retensi 365 hari
  • Fungsi tabel INFORMATION_SCHEMA.QUERY_HISTORY() dengan retensi 7 hari

Tangkapan layar eksekusi riwayat kueri

Otomatisasi Data Pipeline di Snowflake

Query Insights: Rekomendasi Otomatis

rekomendasi query insights

Otomatisasi Data Pipeline di Snowflake

Ayo berlatih!

Otomatisasi Data Pipeline di Snowflake

Preparing Video For Download...