Скользящие и накопительные агрегации

Преобразование данных с помощью Polars

Liam Brannigan

Data Scientist & Polars Contributor

Зачем нужна скользящая статистика?

Линейный график цен на электроэнергию

Зачем нужна скользящая статистика?

Линейный график цен на электроэнергию со скользящей статистикой

Скользящее среднее по столбцу

prices.with_columns(

)

Скользящее среднее по столбцу

prices.with_columns(
    pl.col("price").rolling_mean(            )
)

Скользящее среднее по столбцу

prices.with_columns(
    pl.col("price").rolling_mean(window_size=3)
)

Скользящее среднее по столбцу

prices.with_columns(
    pl.col("price").rolling_mean(window_size=3).alias("smoothed")
)

Скользящее среднее по столбцу

prices.with_columns(
    pl.col("price").rolling_mean(window_size=3).alias("smoothed")
)

| time                | price | solar | smoothed |
| ---                 | ---   | ---   | ---      |
| datetime[µs]        | f64   | f64   | f64      |
|---------------------|-------|-------|----------|
| 2025-07-05 00:00:00 | 34.2  | 0.0   | null     |
| 2025-07-05 01:00:00 | 28.7  | 0.0   | null     |

Скользящее среднее по столбцу

prices.with_columns(
    pl.col("price").rolling_mean(window_size=3).alias("smoothed")
)

| time                | price | solar | smoothed |
| ---                 | ---   | ---   | ---      |
| datetime[µs]        | f64   | f64   | f64      |
|---------------------|-------|-------|----------|
| 2025-07-05 00:00:00 | 34.2  | 0.0   | null     |
| 2025-07-05 01:00:00 | 28.7  | 0.0   | null     |
| 2025-07-05 02:00:00 | 27.5  | 0.0   | 30.1     |

Центрирование окна

prices.with_columns(
    pl.col("price").rolling_mean(window_size=3,            )
)

Центрирование окна

prices.with_columns(
    pl.col("price").rolling_mean(window_size=3, center=True).alias("centered")
)

| time                | price | solar | centered |
| ---                 | ---   | ---   | ---      |
| datetime[µs]        | f64   | f64   | f64      |
|---------------------|-------|-------|----------|
| 2025-07-05 00:00:00 | 34.2  | 0.0   | null     |
| 2025-07-05 01:00:00 | 28.7  | 0.0   | 30.1     |
| 2025-07-05 02:00:00 | 27.5  | 0.0   | 27.1     |

Другие скользящие выражения

.rolling_sum() — скользящая сумма
.rolling_std() — скользящее стандартное отклонение
.rolling_max() / .rolling_min()

Скользящее окно на уровне DataFrame

prices.rolling(                                )

Скользящее окно на уровне DataFrame

prices.rolling(index_column="time",            )

Скользящее окно на уровне DataFrame

prices.rolling(index_column="time", period="3h")

Скользящее окно на уровне DataFrame

prices.rolling(index_column="time", period="3h").agg(
    pl.all().mean()
)

Скользящее окно на уровне DataFrame

prices.rolling(index_column="time", period="3h").agg(
    pl.all().mean()
)

| time                | price | solar  |
| ---                 | ---   | ---    |
| datetime[µs]        | f64   | f64    |
|---------------------|-------|------- |
| 2025-07-05 10:00:00 | 1.8   | 247.3  |
| 2025-07-05 11:00:00 | 1.4   | 347.7  |
| 2025-07-05 12:00:00 | 0.9   | 420.7  |

Зачем нужна накопительная статистика?

График временного ряда солнечной генерации

Задача: вычислить накопительные значения

Зачем нужна накопительная статистика?

График временного ряда солнечной генерации с накопительным максимумом

Накопительная статистика

prices.with_columns(
    pl.col("solar")
)

Накопительная статистика

prices.with_columns(
    pl.col("solar").cum_max()
)

Накопительная статистика

prices.with_columns(
    pl.col("solar").cum_max().alias("cumulative_solar")
)

Накопительная статистика

prices.with_columns(
    pl.col("solar").cum_max().alias("cumulative_solar")
)

| time                | price | solar | cumulative_solar |
| ---                 | ---   | ---   | ---              |
| datetime[µs]        | f64   | f64   | f64              |
|---------------------|-------|-------|------------------|
| ...                 | ...   | ...   | ...              |
| 2025-07-05 10:00:00 | 2.3   | 419.0 | 419.0            |
| 2025-07-05 11:00:00 | 0.5   | 481.0 | 481.0            |
| 2025-07-05 12:00:00 | 0.0   | 462.0 | 481.0            |
| ...                 | ...   | ...   | ...              |

Накопительная сумма для нарастающих итогов

prices.with_columns(
    pl.col("solar").cum_sum().alias("total_energy")
)

| time                | price | solar | total_energy |
| ---                 | ---   | ---   | ---          |
| datetime[µs]        | f64   | f64   | f64          |
|---------------------|-------|-------|--------------|
| 2025-07-05 06:00:00 | 22.1  | 62.0  | 62.0         |
| 2025-07-05 07:00:00 | 4.5   | 100.0 | 162.0        |
| 2025-07-05 08:00:00 | 1.7   | 180.0 | 342.0        |

Давайте потренируемся!

Преобразование данных с помощью Polars