Кодирование меток

Работа с категориальными данными в Python

Kasey Jones

Research Data Scientist

Что такое кодирование меток?

Основы:

Кодирует каждую категорию целым числом от 0 до n - 1, где n — количество категорий
Код -1 зарезервирован для пропущенных значений
Экономит память
Часто используется в опросах

Недостаток:

Не лучший метод кодирования для машинного обучения (см. следующий урок)

Создание кодов

Преобразование в категориальный тип и сортировка по названию производителя

used_cars['manufacturer_name'] = used_cars['manufacturer_name'].astype("category")

Использование .cat.codes

used_cars['manufacturer_code'] = used_cars['manufacturer_name'].cat.codes

Проверка вывода

print(used_cars[['manufacturer_name', 'manufacturer_code']])

      manufacturer_name  manufacturer_code
0                Subaru                 45
1                Subaru                 45
2                Subaru                 45
...                 ...                ...
38526          Chrysler                  8
38527          Chrysler                  8

Кодовые книги и словари данных

Пример кодовой книги из Обследования жилищного фонда США.

¹ https://www.census.gov/data-tools/demo/codebook/ahs/ahsdict.html

Создание кодовой книги

codes = used_cars['manufacturer_name'].cat.codes
categories = used_cars['manufacturer_name']

name_map = dict(zip(codes, categories))

print(name_map)

{45: 'Subaru',
 24: 'LADA',
 12: 'Dodge',
 ...
}

Использование кодовой книги

Создание кодов:

used_cars['manufacturer_code'] = used_cars['manufacturer_name'].cat.codes

Возврат к исходным значениям:

used_cars['manufacturer_code'].map(name_map)

0        Acura
1        Acura
2        Acura
...

¹ https://pandas.pydata.org/pandas-docs/stable/reference/api/pandas.Series.map.html

Булево кодирование

Поиск всех типов кузова, содержащих «van»:

# Code from previous lesson:
used_cars["body_type"].str.contains("van", regex=False)

Создание булевого кодирования:

used_cars["van_code"] = np.where(
  used_cars["body_type"].str.contains("van", regex=False), 1, 0)

used_cars["van_code"].value_counts()

0    34115
1     4416
Name: van_code, dtype: int64

Давайте потренируемся!

Работа с категориальными данными в Python