Encerrando

Dimensionamento e Otimização de Pipelines de Dados com Polars

Liam Brannigan

Data Scientist & Polars Contributor

Capítulo 1

Otimização de consultas

  • Entender como o Polars otimiza consultas lazy nos bastidores
  • Ler planos de consulta e fazer profiling da execução
  • Usar dados ordenados e operações fast-path para reduzir trabalho
Dimensionamento e Otimização de Pipelines de Dados com Polars

Capítulo 2

Imagem do Polars ingerindo vários tipos de arquivo

  • Comparar CSV e Parquet e inspecionar metadados
  • Controlar como o Polars faz scan e grava dados
  • Escalar para múltiplos arquivos, partições e bancos de dados
Dimensionamento e Otimização de Pipelines de Dados com Polars

Capítulo 3

Diagrama de dados aninhados transformados em tabela.

  • Trabalhar com colunas list e struct para dados aninhados
  • Usar tipos categorical e enum para strings repetidas
  • Estimar o tamanho do DataFrame e ajustar a precisão numérica
Dimensionamento e Otimização de Pipelines de Dados com Polars

Capítulo 4

Imagem de uma tabela grande sendo transmitida.

  • Usar engines de execução: padrão, streaming e GPU
  • Processar em lotes e gravar saídas em disco
  • Testar consultas Polars para pipelines robustos e confiáveis
Dimensionamento e Otimização de Pipelines de Dados com Polars

Parabéns!

Dimensionamento e Otimização de Pipelines de Dados com Polars

Preparing Video For Download...