Kodowanie etykiet

Praca z danymi kategorycznymi w Pythonie

Kasey Jones

Research Data Scientist

Czym jest kodowanie etykiet?

Podstawy:

Koduje każdą kategorię jako liczbę całkowitą od 0 do n - 1, gdzie n to liczba kategorii
Kod -1 jest zarezerwowany dla brakujących wartości
Może oszczędzać pamięć
Często stosowane w ankietach

Wada:

Nie jest optymalną metodą kodowania dla uczenia maszynowego (patrz następna lekcja)

Tworzenie kodów

Konwersja do kategorii i sortowanie według nazwy producenta

used_cars['manufacturer_name'] = used_cars['manufacturer_name'].astype("category")

Użycie .cat.codes

used_cars['manufacturer_code'] = used_cars['manufacturer_name'].cat.codes

Sprawdzenie wyników

print(used_cars[['manufacturer_name', 'manufacturer_code']])

      manufacturer_name  manufacturer_code
0                Subaru                 45
1                Subaru                 45
2                Subaru                 45
...                 ...                ...
38526          Chrysler                  8
38527          Chrysler                  8

Słowniki kodów / słowniki danych

Przykładowy słownik kodów z American Housing Survey.

¹ https://www.census.gov/data-tools/demo/codebook/ahs/ahsdict.html

Tworzenie słownika kodów

codes = used_cars['manufacturer_name'].cat.codes
categories = used_cars['manufacturer_name']

name_map = dict(zip(codes, categories))

print(name_map)

{45: 'Subaru',
 24: 'LADA',
 12: 'Dodge',
 ...
}

Korzystanie ze słownika kodów

Tworzenie kodów:

used_cars['manufacturer_code'] = used_cars['manufacturer_name'].cat.codes

Przywracanie poprzednich wartości:

used_cars['manufacturer_code'].map(name_map)

0        Acura
1        Acura
2        Acura
...

¹ https://pandas.pydata.org/pandas-docs/stable/reference/api/pandas.Series.map.html

Kodowanie boolowskie

Wyszukanie typów nadwozia zawierających „van":

# Code from previous lesson:
used_cars["body_type"].str.contains("van", regex=False)

Tworzenie kodowania boolowskiego:

used_cars["van_code"] = np.where(
  used_cars["body_type"].str.contains("van", regex=False), 1, 0)

used_cars["van_code"].value_counts()

0    34115
1     4416
Name: van_code, dtype: int64

Ćwiczenie kodowania

Praca z danymi kategorycznymi w Pythonie