Filteren en aggregeren per periode

Data transformatie met Polars

Liam Brannigan

Data Scientist & Polars Contributor

Specifieke prijzen vinden

Tabel met tijdreeksgegevens

Specifieke prijzen vinden

Tabel met tijdreeksgegevens met 1 gemarkeerde rij

Specifieke prijzen vinden

Tabel met tijdreeksgegevens met 3 gemarkeerde rijen

Filteren met pl.datetime

prices.filter(

)

Taak: vind de prijzen om 12:00 op 5 juli

Filteren met pl.datetime

prices.filter(
    pl.col("time") == 
)

Filteren met pl.datetime

prices.filter(
    pl.col("time") == pl.datetime(                                  )
)

Filteren met pl.datetime

prices.filter(
    pl.col("time") == pl.datetime(year=2025, month=7, day=5, hour=12)
)

| time                | price | solar |
| ---                 | ---   | ---   |
| datetime[µs]        | f64   | f64   |
|---------------------|-------|-------|
| 2025-07-05 12:00:00 | 0.0   | 462.0 |

Filteren op datum met pl.date

prices.filter(
    pl.col("time").dt.date() == 
)

Filteren op datum met pl.date

prices.filter(
    pl.col("time").dt.date() == pl.date(year=2025, month=7, day=5)
)

Filteren op datum met pl.date

prices.filter(
    pl.col("time").dt.date() == pl.date(year=2025, month=7, day=5)
)

| time                | price | solar |
| ---                 | ---   | ---   |
| datetime[µs]        | f64   | f64   |
|---------------------|-------|-------|
| 2025-07-05 00:00:00 | 34.2  | 0.0   |
| 2025-07-05 01:00:00 | 28.7  | 0.0   |
| ...                 | ...   | ...   |
| 2025-07-05 23:00:00 | 72.3  | 0.0   |

Filteren op een datetime-bereik

prices.filter(
    pl.col("time").is_between(


    )
)

Filteren op een datetime-bereik

prices.filter(
    pl.col("time").is_between(
        pl.datetime(2025, 7, 5, 8),
        pl.datetime(2025, 7, 5, 18)
    )
)

Filteren op een datetime-bereik

prices.filter(
    pl.col("time").is_between(
        pl.datetime(2025, 7, 5, 8),
        pl.datetime(2025, 7, 5, 18)
    )
)

| time                | price | solar |
| ---                 | ---   | ---   |
| datetime[µs]        | f64   | f64   |
|---------------------|-------|-------|
| 2025-07-05 08:00:00 | 1.7   | 180.0 |
| 2025-07-05 09:00:00 | 1.3   | 243.0 |
| ...                 | ...   | ...   |
| 2025-07-05 17:00:00 | 77.8  | 153.0 |
| 2025-07-05 18:00:00 | 87.3  | 119.0 |

Aggregatie per periode

Rijen om te aggregeren in tijdvensters

Aggregeer met .group_by_dynamic()

Aggregatie per periode

prices.sort("time")

Aggregatie per periode

prices.sort("time").group_by_dynamic("time",          )

Aggregatie per periode

prices.sort("time").group_by_dynamic("time", every="6h")

Aggregatie per 6-uurvensters

prices.sort("time").group_by_dynamic("time", every="6h").agg(

)

Aggregatie per 6-uurvensters

prices.sort("time").group_by_dynamic("time", every="6h").agg(
    pl.col("price").mean().alias("avg_price")
)

Aggregatie per 6-uurvensters

prices.sort("time").group_by_dynamic("time", every="6h").agg(
    pl.col("price").mean().alias("avg_price")
)

| time                | avg_price |
| ---                 | ---       |
| datetime[µs]        | f64       |
|---------------------|-----------|
| 2025-07-05 00:00:00 | 28.4      |
| 2025-07-05 06:00:00 | 15.2      |
| 2025-07-05 12:00:00 | 42.1      |
| 2025-07-05 18:00:00 | 68.7      |

Aggregatie per dag

prices.sort("time").group_by_dynamic("time", every="1d").agg(

    pl.col("price").mean().alias("avg_price"),
    pl.col("solar").mean().alias("avg_solar")

)

Aggregatie per dag

prices.sort("time").group_by_dynamic("time", every="1d").agg(
    pl.col("price").mean().alias("avg_price"),
    pl.col("solar").mean().alias("avg_solar")
)

| time                | avg_price | avg_solar |
| ---                 | ---       | ---       |
| datetime[µs]        | f64       | f64       |
|---------------------|-----------|-----------|
| 2025-07-05 00:00:00 | 36.7      | 147.1     |
| 2025-07-06 00:00:00 | 42.1      | 133.8     |

Venstergrootte regelen

every - hoe vaak een nieuw venster start
period - de lengte van elk venster
Standaard is period gelijk aan every

Venstergrootte regelen

prices.group_by_dynamic("time", every="2h")

Venstergrootte regelen

Niet-overlappende vensters van 2 uur

Venstergrootte regelen

prices.group_by_dynamic("time", every="1h", period="2h")

Venstergrootte regelen

Eerste overlappend venster start om 10

Venstergrootte regelen

Tweede overlappend venster start om 11

Laten we oefenen!

Data transformatie met Polars