Объединение DataFrame по условию или ближайшему совпадению

Преобразование данных с помощью Polars

Liam Brannigan

Data Scientist & Polars Contributor

Объединение по условию

Таблица с победителями чемпионата мира

Преобразование данных с помощью Polars

Объединение по условию

Таблица с победителями чемпионата мира и таблица с минимальным количеством побед для категорий «серебро» и «золото»

Преобразование данных с помощью Polars

Объединение по условию

Таблица с победителями чемпионата мира, таблица с уровнями и объединённая таблица победителей с достигнутыми уровнями

Преобразование данных с помощью Polars

Объединение по условию

Таблица с победителями чемпионата мира, таблица с уровнями и объединённая таблица победителей с достигнутыми уровнями — строки Бразилии выделены.

Преобразование данных с помощью Polars

Пользователи приложения с предпочтениями

restaurants = pl.read_csv("restuarants.csv")
shape: (4, 5)
| business        | location    | review | price | type       |
| ---             | ---         | ---    | ---   | ---        |
| str             | str         | f64    | i64   | str        |
|-----------------|-------------|--------|-------|------------|
| 7burgers        | Wakey Wakey | 4.2    | 15    | restaurant |
| Costa Coffee    | City Point  | 4.5    | 8     | café       |
| Costa Coffee    | Waterloo    | 4.1    | 8     | café       |
| The Queens Head | Denman St.  | 4.7    | 25    | bar        |
Преобразование данных с помощью Polars

Таблица пользователей

users = pl.read_csv("app_users.csv")
shape: (3, 3)
| user_name | budget | type       |
| ---       | ---    | ---        |
| str       | i64    | str        |
|-----------|--------|------------|
| Bob       | 12     | café       |
| Alice     | 15     | restaurant |
| Charlie   | 22     | bar        |
Преобразование данных с помощью Polars

Объединение по условию

restaurants.join_where(


)
Преобразование данных с помощью Polars

Объединение по условию

restaurants.join_where(
    users,

)
Преобразование данных с помощью Polars

Объединение по условию

restaurants.join_where(
    users,
    pl.col("type") == pl.col("type_right")
)
Преобразование данных с помощью Polars

Объединение по условию

restaurants.join_where(
    users,
    pl.col("type") == pl.col("type_right")
)
shape: (4, 8)
| business        | type       | ... | user_name | budget |
| ---             | ---        | ... | ---       | ---    |
| str             | str        | ... | str       | i64    |
|-----------------|------------|-----|-----------|--------|
| 7burgers        | restaurant | ... | Alice     | 15     |
| Costa Coffee    | café       | ... | Bob       | 12     |
| Costa Coffee    | café       | ... | Bob       | 12     |
| The Queens Head | bar        | ... | Charlie   | 22     |
Преобразование данных с помощью Polars

Объединение по нескольким условиям

restaurants.join_where(
    users,
    pl.col("type") == pl.col("type_right"),
    pl.col("price") <= pl.col("budget")
)
shape: (3, 8)
| user_name | budget | business     | price | type       | ... |
| ---       | ---    | ---          | ---   | ---        | ... |
| str       | i64    | str          | i64   | str        | ... |
|-----------|--------|--------------|-------|------------|-----|
| Alice     | 15     | 7burgers     | 15    | restaurant | ... |
| Bob       | 12     | Costa Coffee | 8     | café       | ... |
| Bob       | 12     | Costa Coffee | 8     | café       | ... |
Преобразование данных с помощью Polars

Объединение по ближайшим значениям

shape: (4, 3)
| business | date        | rating |
| ---      | ---         | ---    |
| str      | date        | i64    |
|----------|-------------|--------|
| 7burgers | 2025-03-15  | 5      |
| 7burgers | 2025-06-20  | 3      |
| 7burgers | 2025-09-10  | 4      |
| 7burgers | 2025-11-25  | 5      |

$$

  • Задача: сопоставить каждый отзыв с наиболее подходящей проверкой
shape: (3, 4)
| user   | business | date       | score |
| ---    | ---      | ---        | ---   |
| str    | str      | date       | f64   |
|--------|----------|------------|-------|
| Charlie | 7burgers | 2025-05-01 | 3.8   |
| Bob     | 7burgers | 2025-08-01 | 4.2   |
| Alice   | 7burgers | 2025-12-01 | 4.5   |
Преобразование данных с помощью Polars

Объединение по ближайшим значениям

reviews.sort("date").join_asof(



)

$$

$$

$$

$$

  • join_asof — объединение по определённой дате
Преобразование данных с помощью Polars

Объединение по ближайшим значениям

reviews.sort("date").join_asof(
    inspections.sort("date"),


)
Преобразование данных с помощью Polars

Объединение по ближайшим значениям

reviews.sort("date").join_asof(
    inspections.sort("date"),
    on="date",

)
Преобразование данных с помощью Polars

Объединение по ближайшим значениям

reviews.sort("date").join_asof(
    inspections.sort("date"),
    on="date",
    strategy="backward"
)
| user    | date       | score | ... | rating |
| ---     | ---        | ---   | ... | ---    |
| str     | date       | f64   | ... | i64    |
|---------|------------|-------|-----|--------|
| Charlie | 2025-05-01 | 3.8   | ... | 5      |
| Bob     | 2025-08-01 | 4.2   | ... | 3      |
| Alice   | 2025-12-01 | 4.5   | ... | 5      |
Преобразование данных с помощью Polars

Объединение по ближайшим значениям

reviews.sort("date").join_asof(
    inspections.sort("date"),
    on="date",
    strategy="nearest"
)
| user    | date       | score | ... | rating |
| ---     | ---        | ---   | ... | ---    |
| str     | date       | f64   | ... | i64    |
|---------|------------|-------|-----|--------|
| Charlie | 2025-05-01 | 3.8   | ... | 5      |
| Bob     | 2025-08-01 | 4.2   | ... | 4      |
| Alice   | 2025-12-01 | 4.5   | ... | 5      |
Преобразование данных с помощью Polars

Выбор стратегии

$$

Диаграмма с двумя таблицами временных рядов, каждая по две строки.

Преобразование данных с помощью Polars

Выбор стратегии — назад

$$

Диаграмма с двумя таблицами временных рядов со стрелками, сопоставляющими обе строки слева с первой строкой справа.

Преобразование данных с помощью Polars

Выбор стратегии — ближайшее

$$

Диаграмма с двумя таблицами временных рядов со стрелками, сопоставляющими каждую строку слева с соответствующей строкой справа.

Преобразование данных с помощью Polars

Выбор стратегии — вперёд

$$

Диаграмма с двумя таблицами временных рядов со стрелками, сопоставляющими обе строки слева со второй строкой справа.

Преобразование данных с помощью Polars

Сопоставление внутри групп

reviews.sort("date").join_asof(
    restaurants.sort("date"),
    on="date",

by=["business", "location"]
)
| user    | business        | location    | date       | score | ... | rating |
| ---     | ---             | ---         | ---        | ---   | ... | ---    |
| str     | str             | str         | date       | f64   | ... | i64    |
|---------|-----------------|-------------|------------|-------|-----|--------|
| Charlie | 7burgers        | Wakey Wakey | 2025-05-01 | 3.8   | ... | null   |
| Bob     | Costa Coffee    | City Point  | 2025-05-01 | 4.0   | ... | 5      |
| Bob     | 7burgers        | Wakey Wakey | 2025-08-01 | 4.2   | ... | null   |
| Alice   | 7burgers        | Wakey Wakey | 2025-12-01 | 4.5   | ... | 4      |
| Alice   | The Queens Head | Denman St.  | 2025-12-01 | 4.7   | ... | 5      |
Преобразование данных с помощью Polars

Давайте потренируемся!

Преобразование данных с помощью Polars

Preparing Video For Download...