Настройка категориальных переменных

Работа с категориальными данными в Python

Kasey Jones

Research Data Scientist

Новый набор данных: собаки для усыновления

dogs.info()  
RangeIndex: 2937 entries, 0 to 2936, Data columns (total 19 columns):
 #   Column             Non-Null Count  Dtype  
 --  ------             --------------  -----  
 0   ID                 2937 non-null   int64  
 ...
 8   color              2937 non-null   object 
 9   coat               2937 non-null   object 
 ...
 17  get_along_cats     431 non-null    object 
 18  keep_in            1916 non-null   object 
dtypes: float64(1), int64(1), object(17)
memory usage: 436.1+ KB
...
1 https://www.kaggle.com/jmolitoris/adoptable-dogs
Работа с категориальными данными в Python

Тип шерсти собаки

dogs["coat"] = dogs["coat"].astype("category")
dogs["coat"].value_counts(dropna=False)
short         1972
medium         565
wirehaired     220
long           180
Name: coat, dtype: int64
Работа с категориальными данными в Python

Объект-аксессор .cat

Series.cat.method_name

Основные параметры:

  • new_categories: список категорий
  • inplace: булево значение — перезаписывать ли Series
  • ordered: булево значение — считать ли категорию упорядоченной
Работа с категориальными данными в Python

Задание категорий Series

Задать категории:

dogs["coat"] = dogs["coat"].cat.set_categories(
  new_categories=["short", "medium", "long"]
)

Проверить количество значений:

dogs["coat"].value_counts(dropna=False)
short     1972
medium     565
NaN        220
long       180
Работа с категориальными данными в Python

Задание порядка категорий

dogs["coat"] = dogs["coat"].cat.set_categories(
  new_categories=["short", "medium", "long"],
  ordered=True
)
dogs["coat"].head(3)
0     short
1     short
2     short
Name: coat, dtype: category
Categories (3, object): ['short' < 'medium' < 'long']
Работа с категориальными данными в Python

Отсутствующие категории

dogs["likes_people"].value_counts(dropna=False)
yes    1991
NaN     938
no        8

NaN может означать:

  1. Действительно неизвестно (не проверялось)
  2. Неопределённо (собака любит «некоторых» людей)
Работа с категориальными данными в Python

Добавление категорий

Добавить категории:

dogs["likes_people"] = dogs["likes_people"].astype("category")
dogs["likes_people"] = dogs["likes_people"].cat.add_categories(
  new_categories=["did not check", "could not tell"]
)

Проверить категории:

dogs["likes_people"].cat.categories
Index(['no', 'yes', 'did not check', 'could not tell'], dtype='object')
Работа с категориальными данными в Python

Новые категории

dogs["likes_people"].value_counts(dropna=False)
yes               1991
NaN                938
no                   8
could not tell       0
did not check        0
Работа с категориальными данными в Python

Удаление категорий

dogs["coat"] = dogs["coat"].astype("category")
dogs["coat"] = dogs["coat"].cat.remove_categories(removals=["wirehaired"])

Проверить категории:

dogs["coat"].cat.categories
Index(['long', 'medium', 'short'], dtype='object')
Работа с категориальными данными в Python

Обзор методов

  • Задание: cat.set_categories()
    • Позволяет задать порядок категорий
    • Значения, не указанные в методе, удаляются
  • Добавление: cat.add_categories()
    • Не изменяет существующие данные в DataFrame
    • Категории, не указанные в методе, остаются без изменений
  • Удаление: cat.remove_categories()
    • Значения удалённых категорий заменяются на NaN
Работа с категориальными данными в Python

Давайте потренируемся!

Работа с категориальными данными в Python

Preparing Video For Download...