Transformer des données par groupe

Transformation de données avec Polars

Liam Brannigan

Data Scientist & Polars Contributor

Pourquoi comparer aux statistiques de groupe ?

Série temporelle des prix de l’électricité sur une journée

Les prix sont-ils supérieurs ou inférieurs à la normale ?

Pourquoi comparer aux statistiques de groupe ?

Série temporelle des prix de l’électricité sur une journée avec la moyenne horaire

Pourquoi comparer aux statistiques de groupe ?

Série temporelle des prix de l’électricité sur une journée avec la moyenne horaire et une annotation montrant des prix bas à midi

Pourquoi comparer aux statistiques de groupe ?

Série temporelle des prix de l’électricité sur une journée avec la moyenne horaire et une annotation montrant des prix normaux le soir

Extraire l’heure

prices.with_columns(
    pl.col("time").dt.hour().alias("hour")
)

| time                | price | solar   | hour |
| ---                 | ---   | ---     | ---  |
| datetime[µs]        | f64   | f64     | i8   |
|---------------------|-------|-------  |------|
| 2025-07-05 10:00:00 | 2.3   | 419.0   | 10   |
| 2025-07-05 11:00:00 | 0.5   | 481.0   | 11   |
| 2025-07-05 12:00:00 | 0.0   | 462.0   | 12   |

Fonction de fenêtre avec .over()

prices.with_columns(
    pl.col("price").mean()
)

Fonction de fenêtre avec .over()

prices.with_columns(
    pl.col("price").mean().over("hour")
)

Fonction de fenêtre avec .over()

prices.with_columns(
    pl.col("price").mean().over("hour").alias("hourly_avg")
)

Fonction de fenêtre avec .over()

prices.with_columns(
    pl.col("price").mean().over("hour").alias("hourly_avg")
)

| time                | price | solar | hour | hourly_avg |
| ---                 | ---   | ---   | ---  | ---        |
| datetime[µs]        | f64   | f64   | i8   | f64        |
|---------------------|-------|-------|------|------------|
| 2025-07-05 10:00:00 | 2.3   | 419.0 | 10   | 49.6       |
| 2025-07-05 11:00:00 | 0.5   | 481.0 | 11   | 44.4       |
| 2025-07-05 12:00:00 | 0.0   | 462.0 | 12   | 39.5       |

Créer une catégorie météo

Ensoleillé : solar > 400 W/m²
Nuageux : solar <= 400 W/m²

Créer une catégorie météo

prices.with_columns(
    pl.when(pl.col("solar") > 400)
    .then(pl.lit("sunny"))
    .otherwise(pl.lit("cloudy"))

    .alias("weather")

)

| time                | price | solar | weather |
| ---                 | ---   | ---   | ---     |
| datetime[µs]        | f64   | f64   | str     |
|---------------------|-------|-------|---------|
| 2025-07-05 10:00:00 | 2.3   | 419.0 | sunny   |
| 2025-07-06 10:00:00 | 80.5  | 181.0 | cloudy  |
| 2025-07-07 10:00:00 | 41.5  | 150.0 | cloudy  |

Grouper par plusieurs colonnes

prices.with_columns(
    pl.col("price").mean()
)

Grouper par plusieurs colonnes

prices.with_columns(
    pl.col("price").mean().over("hour", "weather")
)

Grouper par plusieurs colonnes

prices.with_columns(
    pl.col("price").mean().over("hour", "weather").alias("avg_by_hour_weather")
)

Grouper par plusieurs colonnes

prices.with_columns(
    pl.col("price").mean().over("hour", "weather").alias("avg_by_hour_weather")
)

| time                | price | hour | weather | avg_by_hour_weather |
| ---                 | ---   | ---  | ---     | ---                 |
| datetime[µs]        | f64   | i8   | str     | f64                 |
|---------------------|-------|------|---------|---------------------|
| 2025-07-05 10:00:00 | 2.3   | 10   | sunny   | 34.2                |
| 2025-07-06 10:00:00 | 80.5  | 10   | cloudy  | 58.0                |
| 2025-07-07 10:00:00 | 41.5  | 10   | cloudy  | 58.0                |

Comparer à la moyenne du groupe

prices.with_columns(
    (pl.col("price")                                     )

)

Comparer à la moyenne du groupe

prices.with_columns(
    (pl.col("price") - pl.col("price").mean().over("hour"))

)

Comparer à la moyenne du groupe

prices.with_columns(
    (pl.col("price") - pl.col("price").mean().over("hour"))
    .alias("diff_from_hourly_avg")
)

| time                | price | hour | diff_from_hourly_avg |
| ---                 | ---   | ---  | ---                  |
| datetime[µs]        | f64   | i8   | f64                  |
|---------------------|-------|------|----------------------|
| 2025-07-05 10:00:00 | 2.3   | 10   | -47.3                |
| 2025-07-06 10:00:00 | 25.1  | 10   | -24.5                |
| 2025-07-07 10:00:00 | 2.7   | 10   | -46.9                |

Autres agrégations de fenêtre

.over() fonctionne avec de nombreuses agrégations :

.sum().over() - totaux par groupe
.max().over() - maxima par groupe
.count().over() - tailles de groupe

Passons à la pratique !

Transformation de données avec Polars