Введение в DataFrame Polars

Введение в Polars

Liam Brannigan

Data Scientist and Polars Contributor

Ваш инструктор

Liam Brannigan, ведущий специалист по данным
Эксперт по машинному обучению и дата-инжинирингу
Контрибьютор Polars

Фотография инструктора.

Табличные данные

shape: (49, 8)
| name        | type    | price | bedrooms | doubles | singles | review | beach |
| ---         | ---     | ---   | ---      | ---     | ---     | ---    | ---   |
| str         | str     | i64   | i64      | i64     | i64     | f64    | bool  |
|-------------|---------|-------|----------|---------|---------|--------|-------|
| Waves       | Cottage | 540   | 4        | 1       | 2       | 8.9    | false |
| Seashells   | Cottage | 540   | 4        | 2       | 2       | 8.7    | true  |
| Lake view   | Cottage | 714   | 3        | 1       | 4       | 9.2    | true  |
| Piran View  | null    | 775   | null     | 1       | 3       | 9.6    | false |
| Palma Villa | Cottage | 1772  | 4        | 1       | 2       | 9.6    | true  |

Полярный медведь идёт по снегу и панда в лесу.

Polars, как правило, быстрее Pandas → параллельные вычисления
Ленивый режим Polars позволяет оптимизировать запросы

Логотипы Apache Arrow и Rust.

Apache Arrow: хранит табличные данные в памяти
Rust: быстрый язык для обработки данных

Схема базы данных, иллюстрирующая загрузку данных.

Загрузка и изучение данных

Схема базы данных с шестерёнками, иллюстрирующая преобразование данных.

Загрузка и изучение данных
Преобразование данных и оптимизация

Схема базы данных, шестерёнок и диаграммы, иллюстрирующая анализ данных.

Загрузка и изучение данных
Преобразование данных и оптимизация
Анализ данных

Чтение CSV-файла

import polars as pl


rentals = pl.read_csv("vacation_rentals.csv")

Первые строки DataFrame

rentals.head(3)

Первые строки DataFrame rentals.

Первые строки DataFrame

rentals.head(3)

DataFrame rentals с выделенной формой.

Первые строки DataFrame

rentals.head(3)

DataFrame rentals с выделенным первым столбцом.

dtype: тип данных в столбце

Первые строки DataFrame

rentals.head(3)

DataFrame rentals с выделенным столбцом rentals.

Последние строки DataFrame

rentals.tail()

shape: (5, 8)
| name                | type      | price | bedrooms | doubles | singles | review | beach |
| ---                 | ---       | ---   | ---      | ---     | ---     | ---    | ---   |
| str                 | str       | i64   | i64      | i64     | i64     | f64    | bool  |
|---------------------|-----------|-------|----------|---------|---------|--------|-------|
| Hengar Manor House  | Cottage   | 615   | 4        | 1       | 5       | 9.4    | false |
| Tudor Cottage Hayle | Cottage   | 489   | 3        | 2       | 3       | 8.9    | false |
| Tolcarne Apartments | Apartment | 1764  | 3        | 1       | 4       | 9.3    | true  |
| Tolcarne Apartments | Apartment | 1605  | 3        | 1       | 4       | 9.3    | true  |
| Tehidy Holiday Park | Cottage   | 637   | 4        | 2       | 4       | 9.0    | false |

Метаданные DataFrame

rentals.shape

(49, 8)

rentals.columns

['name', 'type', 'price', 'bedrooms', 'doubles', 'singles', 'review', 'beach']

Схема DataFrame

rentals.schema

Schema([('name', String),
        ('type', String),
        ('price', Int64),
        ('bedrooms', Int64),
        ('doubles', Int64),
        ('singles', Int64),
        ('review', Float64),
        ('beach', Boolean)])

Изучение DataFrame

rentals.glimpse()

Rows: 49
Columns: 8
$ name      <str> 'Waves', 'Seashells', 'Lake view', 'Piran View',...
$ type      <str> 'Cottage', 'Cottage', 'Cottage', None, 'Cottage',...
$ price     <i64> 540, 540, 714, 775, 1772, 934, 1947, 1026, 705, 863
$ bedrooms  <i64> 4, 4, 3, None, 4, 3, 4, 3, 4, 3
$ doubles   <i64> 1, 2, 1, 1, 1, 1, 1, 1, 1, 1
$ singles   <i64> 2, 2, 4, 3, 2, 4, 2, 4, 2, 2
$ review    <f64> 8.9, 8.7, 9.2, 9.6, 9.6, 8.6, 9.6, 8.6, 9.7, 9.1
$ beach    <bool> False, True, True, False, True, True, True, True, True, True

Давайте потренируемся!

Введение в Polars