Знакомство с ленивым режимом

Введение в Polars

Liam Brannigan

Data Scientist & Polars Contributor

Активный режим

(
    pl.read_csv("vacation_rentals.csv")


)

Загружает CSV в DataFrame

Ленивый режим

Активный режим

(
    pl.read_csv("vacation_rentals.csv")


)

Загружает CSV в DataFrame

Ленивый режим

(
    pl.scan_csv("vacation_rentals.csv")


)

Запускает план запроса
Читает первые строки CSV

Активный режим

(
    pl.read_csv("vacation_rentals.csv")


)

| name     | type    | ... | beach |
| ---      | ---     | ... | ---   |
| str      | str     | ... | bool  |
|----------|---------| ... |-------|
| Waves    | Cottage | ... | false |
| Seashell | Cottage | ... | true  |
| ...      | ...     | ... | ...   |

Ленивый режим

(
    pl.scan_csv("vacation_rentals.csv")


)

naive plan: 

Csv SCAN [vacation_rentals.csv]
PROJECT */8 COLUMNS

Активный режим

(
    pl.read_csv("vacation_rentals.csv")
    .select("name","price")

)

Ленивый режим

Активный режим

(
    pl.read_csv("vacation_rentals.csv")
    .select("name","price")

)

Ленивый режим

(
    pl.scan_csv("vacation_rentals.csv")
    .select("name","price")

)

Обновляет план запроса
Оптимизирует план запроса

Оптимизированный план запроса

print(
    pl.scan_csv("vacation_rentals.csv")
    .select("name","price")
    .explain()
)

Csv SCAN [vacation_rentals.csv]

PROJECT 2/8 COLUMNS

Оптимизация: проталкивание проекций

Выполнение ленивого запроса

(
    pl.scan_csv("vacation_rentals.csv")
    .select("name","price")
    .collect()
)

shape: (49, 2)
| name      | price |
| ---       | ---   |
| str       | i64   |
|-----------|-------|
| Waves     | 540   |
| Seashells | 540   |
| ...       | ...   |

Активный режим vs. ленивый режим

(
    pl.read_csv("vacation_rentals.csv")
    .select("name","price")

)

Построчно

(
    pl.scan_csv("vacation_rentals.csv")
    .select("name","price")
    .collect()
)

Запрос целиком

Активный режим vs. ленивый режим

Бегущий белый медведь и спящий медведь Polars

пошаговая обработка: активный режим
отладка: активный режим
оптимизированная производительность: ленивый режим

Давайте потренируемся!

Введение в Polars