ラベルエンコーディング

Pythonでカテゴリカルデータを扱う

Kasey Jones

Research Data Scientist

ラベルエンコーディングとは

【基本】

各カテゴリを 0 から n-1 の整数に割り当てる（n はカテゴリ数）
欠損値は -1 が割り当てられる
メモリ節約になることがある
アンケートでよく使われる

【注意点】

機械学習には最適ではない（次のレッスン参照）

コードの作成

メーカー名でカテゴリ化して並べ替え

used_cars['manufacturer_name'] = used_cars['manufacturer_name'].astype("category")

.cat.codes を使用

used_cars['manufacturer_code'] = used_cars['manufacturer_name'].cat.codes

出力の確認

print(used_cars[['manufacturer_name', 'manufacturer_code']])

      manufacturer_name  manufacturer_code
0                Subaru                 45
1                Subaru                 45
2                Subaru                 45
...                 ...                ...
38526          Chrysler                  8
38527          Chrysler                  8

コードブック / データディクショナリ

アメリカ住宅調査のコードブック例。

¹ https://www.census.gov/data-tools/demo/codebook/ahs/ahsdict.html

コードブックの作成

codes = used_cars['manufacturer_name'].cat.codes
categories = used_cars['manufacturer_name']

name_map = dict(zip(codes, categories))

print(name_map)

{45: 'Subaru',
 24: 'LADA',
 12: 'Dodge',
 ...
}

コードブックの活用

コードの作成:

used_cars['manufacturer_code'] = used_cars['manufacturer_name'].cat.codes

元の値に戻す:

used_cars['manufacturer_code'].map(name_map)

0        Acura
1        Acura
2        Acura
...

¹ https://pandas.pydata.org/pandas-docs/stable/reference/api/pandas.Series.map.html

ブール符号化

「van」を含むボディタイプを抽出:

# 前のレッスンのコード:
used_cars["body_type"].str.contains("van", regex=False)

ブール値で符号化:

used_cars["van_code"] = np.where(
  used_cars["body_type"].str.contains("van", regex=False), 1, 0)

used_cars["van_code"].value_counts()

0    34115
1     4416
Name: van_code, dtype: int64

エンコーディングの練習

Pythonでカテゴリカルデータを扱う