Datums parsen en bewerken

Data transformatie met Polars

Liam Brannigan

Data Scientist & Polars Contributor

Tijdreeksdata

Tijdreeks van marktprijzen

Tijdreeksdata

Tijdreeks van verkoop

Tijdreeksdata

Tijdreeks van streams

Tijdreeksdata

Tijdreeks van aantallen

Dataset elektriciteitsprijzen

shape: (24, 3)
| time             | price | solar |
| ---              | ---   | ---   |
| str              | f64   | f64   |
|------------------|-------|-------|
| 05/07/2025 00:00 | 34.2  | 0.0   |
| ...              | ...   | ...   |
| 05/07/2025 12:00 | 0.0   | 462.0 |

time - uurlijkse waarden
price - £ per megawattuur
solar - W per vierkante meter
solar > 400 = warme zomerdag

Relatie tussen prijs en zonne-energie

Tijdreeks van elektriciteitsprijzen

Relatie tussen prijs en zonne-energie

Tijdreeks van elektriciteitsprijzen

Datetime-dtypes in Polars

Date - kalenderdatum - 2000-01-01
Datetime - datum en tijd - 2000-01-01 12:00:00
Time - tijdstip - 12:00:00
Duration - tijdsduur - 3 hours

Automatisch datetimes parsen

pl.read_csv(
  "electricity_prices",

)

Automatisch datetimes parsen

pl.read_csv(
  "electricity_prices",
  try_parse_dates=True
)

formaat: YYYY-MM-DD
bv. 2025-07-05
bv. 2025-07-05 12:00:00

Onze data vereist handmatig parsen

| time             | price | solar |
| ---              | ---   | ---   |
| str              | f64   | f64   |
|------------------|-------|-------|
| 05/07/2025 00:00 | 34.2  | 0.0   |
| 05/07/2025 01:00 | 28.7  | 0.0   |

formaat: DD/MM/YYYY HH:MM
niet automatisch gedetecteerd door Polars

Parsen met strptime

prices.with_columns(
    pl.col("time").str.strptime(                             )
)

Parsen met strptime

prices.with_columns(
    pl.col("time").str.strptime(pl.Datetime,                 )
)

Parsen met strptime

prices.with_columns(
    pl.col("time").str.strptime(pl.Datetime, "%d/%m/%Y      ")
)

Parsen met strptime

prices.with_columns(
    pl.col("time").str.strptime(pl.Datetime, "%d/%m/%Y %H:%M")
)

Parsen met strptime

prices.with_columns(
    pl.col("time").str.strptime(pl.Datetime, "%d/%m/%Y %H:%M")
)

| time                | price | solar |
| ---                 | ---   | ---   |
| datetime[us]        | f64   | f64   |
|---------------------|-------|-------|
| 2025-07-05 00:00:00 | 34.2  | 0.0   |
| 2025-07-05 01:00:00 | 28.7  | 0.0   |
| 2025-07-05 02:00:00 | 27.5  | 0.0   |

Datetime-onderdelen extraheren

Tabel met tijdreeksdata

Datetime-onderdelen extraheren

Tabel met tijdreeksdata met de datum gemarkeerd op één rij

Datetime-onderdelen extraheren

Tabel met tijdreeksdata met de tijd gemarkeerd op één rij

Datetime-onderdelen extraheren

Tabel met tijdreeksdata met het uur gemarkeerd op één rij

De datum extraheren

prices.with_columns(
    pl.col("time").dt.date()
)

De datum extraheren

prices.with_columns(
    pl.col("time").dt.date().alias("date")
)

De datum extraheren

prices.with_columns(
    pl.col("time").dt.date().alias("date")
)

| time                | price | solar | date       |
| ---                 | ---   | ---   | ---        |
| datetime[µs]        | f64   | f64   | date       |
|---------------------|-------|-------|------------|
| 2025-07-05 00:00:00 | 34.2  | 0.0   | 2025-07-05 |
| 2025-07-05 01:00:00 | 28.7  | 0.0   | 2025-07-05 |
| 2025-07-05 02:00:00 | 27.5  | 0.0   | 2025-07-05 |

De tijd extraheren

prices.with_columns(
    pl.col("time").dt.time().alias("time_of_day")
)

De tijd extraheren

prices.with_columns(
    pl.col("time").dt.time().alias("time_of_day")
)

| time                | price | solar | time_of_day |
| ---                 | ---   | ---   | ---         |
| datetime[us]        | f64   | f64   | time        |
|---------------------|-------|-------|-------------|
| 2025-07-05 00:00:00 | 34.2  | 0.0   | 00:00:00    |
| 2025-07-05 01:00:00 | 28.7  | 0.0   | 01:00:00    |
| 2025-07-05 02:00:00 | 27.5  | 0.0   | 02:00:00    |

Het uur extraheren

prices.with_columns(
    pl.col("time").dt.hour().alias("hour")
)

Het uur extraheren

prices.with_columns(
    pl.col("time").dt.hour().alias("hour")
)

| time                | price | solar | hour |
| ---                 | ---   | ---   | ---  |
| datetime[µs]        | f64   | f64   | i8   |
|---------------------|-------|-------|------|
| 2025-07-05 00:00:00 | 34.2  | 0.0   | 0    |
| 2025-07-05 01:00:00 | 28.7  | 0.0   | 1    |
| 2025-07-05 12:00:00 | 0.0   | 462.0 | 12   |

Andere datetime-onderdelen

.dt.year() - jaar extraheren
.dt.month() - maand extraheren (1-12)
.dt.day() - dag van maand extraheren
.dt.minute() - minuut extraheren
...

¹ https://docs.pola.rs/api/python/dev/reference/expressions/temporal.html

Datetimes aanpassen

.dt.offset_by() - datetimes aanpassen
"1h" - 1 uur vooruit
"-2d" - 2 dagen terug

Datetimes aanpassen

.dt.offset_by() - datetimes aanpassen
"1h" - 1 uur vooruit
"-2d" - 2 dagen terug

¹ https://docs.pola.rs/api/python/stable/reference/expressions/api/polars.Expr.dt.offset_by.html

Einde tijdvenster toevoegen

prices.with_columns(
    pl.col("time").dt.offset_by("1h")
)

Einde tijdvenster toevoegen

prices.with_columns(
    pl.col("time").dt.offset_by("1h").alias("time_end")
)

Einde tijdvenster toevoegen

prices.with_columns(
    pl.col("time").dt.offset_by("1h").alias("time_end")
)

| time                | price | solar | time_end            |
| ---                 | ---   | ---   | ---                 |
| datetime[µs]        | f64   | f64   | datetime[µs]        |
|---------------------|-------|-------|---------------------|
| 2025-07-05 00:00:00 | 34.2  | 0.0   | 2025-07-05 01:00:00 |
| 2025-07-05 01:00:00 | 28.7  | 0.0   | 2025-07-05 02:00:00 |
| 2025-07-05 02:00:00 | 27.5  | 0.0   | 2025-07-05 03:00:00 |

Laten we oefenen!

Data transformatie met Polars