Penutup

Menskalakan dan Mengoptimalkan Pipeline Data dengan Polars

Liam Brannigan

Data Scientist & Polars Contributor

Bab 1

Optimisasi kueri

  • Memahami cara Polars mengoptimalkan kueri lazy di balik layar
  • Membaca rencana kueri dan memprofil eksekusi
  • Menggunakan data terurut dan operasi fast-path untuk mengurangi kerja
Menskalakan dan Mengoptimalkan Pipeline Data dengan Polars

Bab 2

Gambar Polars mengimpor berbagai tipe berkas

  • Membandingkan CSV vs Parquet dan meninjau metadata berkas
  • Mengontrol cara Polars memindai dan menulis data
  • Skala ke dataset multi-berkas, partisi, dan basis data
Menskalakan dan Mengoptimalkan Pipeline Data dengan Polars

Bab 3

Diagram data bertingkat diubah menjadi tabel.

  • Bekerja dengan kolom list dan struct untuk data bertingkat
  • Menggunakan tipe kategorikal dan enum untuk string berulang
  • Memperkirakan ukuran DataFrame dan menyetel presisi numerik
Menskalakan dan Mengoptimalkan Pipeline Data dengan Polars

Bab 4

Gambar tabel besar yang di-streaming.

  • Menargetkan mesin eksekusi default, streaming, dan GPU
  • Memproses hasil per batch dan menulis keluaran ke disk
  • Menguji kueri Polars untuk pipeline yang tangguh dan andal
Menskalakan dan Mengoptimalkan Pipeline Data dengan Polars

Selamat!

Menskalakan dan Mengoptimalkan Pipeline Data dengan Polars

Preparing Video For Download...