Pour conclure

Mise à l'échelle et optimisation des pipelines de données avec Polars

Liam Brannigan

Data Scientist & Polars Contributor

Chapitre 1

Optimisation des requêtes

  • Comprendre comment Polars optimise les requêtes paresseuses en coulisses
  • Lire les plans de requête et profiler l'exécution
  • Utiliser des données triées et des fast-paths pour réduire le travail
Mise à l'échelle et optimisation des pipelines de données avec Polars

Chapitre 2

Image de Polars ingérant plusieurs types de fichiers

  • Comparer CSV et Parquet et inspecter les métadonnées
  • Contrôler la lecture et l'écriture des données par Polars
  • Passer à des jeux de données multi-fichiers, partitions et bases de données
Mise à l'échelle et optimisation des pipelines de données avec Polars

Chapitre 3

Diagramme de données imbriquées transformées en table.

  • Travailler avec des colonnes list et struct pour des données imbriquées
  • Utiliser les types catégoriel et enum pour des chaînes répétées
  • Estimer la taille du DataFrame et ajuster la précision numérique
Mise à l'échelle et optimisation des pipelines de données avec Polars

Chapitre 4

Image d'une grande table diffusée en flux.

  • Cibler les moteurs d'exécution par défaut, en streaming et GPU
  • Traiter en lots et écrire les sorties sur disque
  • Tester les requêtes Polars pour des pipelines robustes et fiables
Mise à l'échelle et optimisation des pipelines de données avec Polars

Félicitations !

Mise à l'échelle et optimisation des pipelines de données avec Polars

Preparing Video For Download...