마무리

Polars로 데이터 파이프라인 확장 및 최적화하기

Liam Brannigan

Data Scientist & Polars Contributor

1장

쿼리 최적화

  • Polars가 지연 쿼리를 최적화하는 방식 이해
  • 쿼리 플랜 읽기 및 실행 프로파일링
  • 정렬된 데이터와 빠른 경로 연산으로 작업량 감소
Polars로 데이터 파이프라인 확장 및 최적화하기

2장

여러 파일 형식을 읽어들이는 Polars 이미지

  • CSV와 Parquet 비교 및 파일 메타데이터 검사
  • Polars의 데이터 스캔 및 쓰기 방식 제어
  • 멀티파일 데이터셋, 파티션 구조, 데이터베이스로 확장
Polars로 데이터 파이프라인 확장 및 최적화하기

3장

중첩 데이터를 테이블로 변환하는 다이어그램

  • 중첩 데이터를 위한 리스트 및 구조체 열 활용
  • 반복 문자열에 범주형 및 열거형 타입 사용
  • DataFrame 크기 추정 및 숫자 정밀도 조정
Polars로 데이터 파이프라인 확장 및 최적화하기

4장

대형 테이블이 스트리밍되는 이미지

  • 기본, 스트리밍, GPU 실행 엔진 활용
  • 결과를 배치로 처리하고 출력을 디스크에 저장
  • 견고하고 안정적인 파이프라인을 위한 Polars 쿼리 테스트
Polars로 데이터 파이프라인 확장 및 최적화하기

수료를 축하합니다!

Polars로 데이터 파이프라인 확장 및 최적화하기

Preparing Video For Download...