Преобразование данных по группам

Преобразование данных с помощью Polars

Liam Brannigan

Data Scientist & Polars Contributor

Зачем сравнивать с групповой статистикой?

График временного ряда цен на электроэнергию за день

Цены выше или ниже нормы?

Зачем сравнивать с групповой статистикой?

График временного ряда цен на электроэнергию за день со средними почасовыми ценами

Зачем сравнивать с групповой статистикой?

График временного ряда цен на электроэнергию за день со средними почасовыми ценами и аннотацией о низких ценах в полдень

Зачем сравнивать с групповой статистикой?

График временного ряда цен на электроэнергию за день со средними почасовыми ценами и аннотацией о нормальных ценах вечером

Извлечение часа

prices.with_columns(
    pl.col("time").dt.hour().alias("hour")
)

| time                | price | solar   | hour |
| ---                 | ---   | ---     | ---  |
| datetime[µs]        | f64   | f64     | i8   |
|---------------------|-------|-------  |------|
| 2025-07-05 10:00:00 | 2.3   | 419.0   | 10   |
| 2025-07-05 11:00:00 | 0.5   | 481.0   | 11   |
| 2025-07-05 12:00:00 | 0.0   | 462.0   | 12   |

Оконная функция с .over()

prices.with_columns(
    pl.col("price").mean()
)

Оконная функция с .over()

prices.with_columns(
    pl.col("price").mean().over("hour")
)

Оконная функция с .over()

prices.with_columns(
    pl.col("price").mean().over("hour").alias("hourly_avg")
)

Оконная функция с .over()

prices.with_columns(
    pl.col("price").mean().over("hour").alias("hourly_avg")
)

| time                | price | solar | hour | hourly_avg |
| ---                 | ---   | ---   | ---  | ---        |
| datetime[µs]        | f64   | f64   | i8   | f64        |
|---------------------|-------|-------|------|------------|
| 2025-07-05 10:00:00 | 2.3   | 419.0 | 10   | 49.6       |
| 2025-07-05 11:00:00 | 0.5   | 481.0 | 11   | 44.4       |
| 2025-07-05 12:00:00 | 0.0   | 462.0 | 12   | 39.5       |

Создание категории погоды

Солнечно: solar > 400 Вт/м²
Облачно: solar <= 400 Вт/м²

Создание категории погоды

prices.with_columns(
    pl.when(pl.col("solar") > 400)
    .then(pl.lit("sunny"))
    .otherwise(pl.lit("cloudy"))

    .alias("weather")

)

| time                | price | solar | weather |
| ---                 | ---   | ---   | ---     |
| datetime[µs]        | f64   | f64   | str     |
|---------------------|-------|-------|---------|
| 2025-07-05 10:00:00 | 2.3   | 419.0 | sunny   |
| 2025-07-06 10:00:00 | 80.5  | 181.0 | cloudy  |
| 2025-07-07 10:00:00 | 41.5  | 150.0 | cloudy  |

Группировка по нескольким столбцам

prices.with_columns(
    pl.col("price").mean()
)

Группировка по нескольким столбцам

prices.with_columns(
    pl.col("price").mean().over("hour", "weather")
)

Группировка по нескольким столбцам

prices.with_columns(
    pl.col("price").mean().over("hour", "weather").alias("avg_by_hour_weather")
)

Группировка по нескольким столбцам

prices.with_columns(
    pl.col("price").mean().over("hour", "weather").alias("avg_by_hour_weather")
)

| time                | price | hour | weather | avg_by_hour_weather |
| ---                 | ---   | ---  | ---     | ---                 |
| datetime[µs]        | f64   | i8   | str     | f64                 |
|---------------------|-------|------|---------|---------------------|
| 2025-07-05 10:00:00 | 2.3   | 10   | sunny   | 34.2                |
| 2025-07-06 10:00:00 | 80.5  | 10   | cloudy  | 58.0                |
| 2025-07-07 10:00:00 | 41.5  | 10   | cloudy  | 58.0                |

Сравнение со средним по группе

prices.with_columns(
    (pl.col("price")                                     )

)

Сравнение со средним по группе

prices.with_columns(
    (pl.col("price") - pl.col("price").mean().over("hour"))

)

Сравнение со средним по группе

prices.with_columns(
    (pl.col("price") - pl.col("price").mean().over("hour"))
    .alias("diff_from_hourly_avg")
)

| time                | price | hour | diff_from_hourly_avg |
| ---                 | ---   | ---  | ---                  |
| datetime[µs]        | f64   | i8   | f64                  |
|---------------------|-------|------|----------------------|
| 2025-07-05 10:00:00 | 2.3   | 10   | -47.3                |
| 2025-07-06 10:00:00 | 25.1  | 10   | -24.5                |
| 2025-07-07 10:00:00 | 2.7   | 10   | -46.9                |

Другие оконные агрегации

.over() работает со многими агрегациями:

.sum().over() – суммы по группам
.max().over() – максимумы по группам
.count().over() – размеры групп

Давайте потренируемся!

Преобразование данных с помощью Polars