總結

使用 Polars 擴充與最佳化資料管線

Liam Brannigan

Data Scientist & Polars Contributor

第 1 章

查詢最佳化

  • 了解 Polars 如何在背後最佳化 lazy 查詢
  • 讀取查詢計畫並評測執行效能
  • 善用排序資料與 fast-path 操作以減少工作量
使用 Polars 擴充與最佳化資料管線

第 2 章

Polars 匯入多種檔案類型的圖片

  • 比較 CSV 與 Parquet,並檢視檔案中繼資料
  • 控制 Polars 掃描與寫入資料的方式
  • 擴展到多檔資料集、分割佈局與資料庫
使用 Polars 擴充與最佳化資料管線

第 3 章

巢狀資料轉成資料表的示意圖。

  • 使用 list 與 struct 欄處理巢狀資料
  • 對重複字串使用 categorical 與 enum 型別
  • 估算 DataFrame 大小並調整數值精度
使用 Polars 擴充與最佳化資料管線

第 4 章

大型資料表以串流方式處理的圖片。

  • 選擇 default、streaming 與 GPU 執行引擎
  • 以批次處理結果並將輸出寫入磁碟
  • 測試 Polars 查詢以打造穩健可靠的流程
使用 Polars 擴充與最佳化資料管線

恭喜你!

使用 Polars 擴充與最佳化資料管線

Preparing Video For Download...