Хеширование признаков

Конструирование признаков в R

Jorge Zazueta

Research Professor and Head of the Modeling Group at the School of Economics, UASLP

Что такое хеширование признаков?

Преобразует текстовую переменную в набор числовых переменных
Использует хеш-значения в качестве индексов признаков
Компактное представление данных в памяти
Полезно, когда при появлении новых данных ожидаются новые категории

Каждому перевозчику присваивается порядковый номер на основе текстового значения.

Таблица, иллюстрирующая хеширование признаков для авиаперевозчиков.

Сколько перевозчиков в наборе данных?

Набор данных flights включает перевозчиков в виде факторов, однако неизвестно, появятся ли новые перевозчики в будущих данных.

flights %>%
  select(carrier) %>%
  table()

carrier
  9E   AA   AS   B6   DL   EV   F9   FL   HA   MQ   OO   UA   US   VX   WN   YV 
 859 1744   26 2503 2619 3014   38  186   14 1540    2 3367 1228  244  757   41

Хешируем признак

Для представления значений фактора можно создать фиктивные хеши с помощью пакета textrecipes.

recipe <- recipe(~carrier, 
                 data = flights_train) %>%
  step_dummy_hash(carrier, prefix = NULL, 
                  signed = FALSE, 
                  num_terms = 50L)
# Prep the recipe
object <- recipe %>%
  prep()

# Bake the recipe object with new data
baked <- bake(object,
              new_data = flights_test)

Пример представления step_dummy_hash().

bind_cols(flights_test$carrier,baked)[1:6,c(1,18:20)]

New names:
• `` -> `...1`
# A tibble: 10 × 4
   ...1  `_carrier_17` `_carrier_18` `_carrier_19`
   <chr>         <int>         <int>         <int>
 1 EV                0             0             0
 2 B6                0             1             0
 3 EV                0             0             0
 4 MQ                0             0             0
 5 DL                0             0             0
 6 EV                0             0             0

Визуализация хеширования

Отобразить матрицу можно с помощью пакета plot.matrix.

flights_hash <- 
    as.matrix(baked)[1:50,] 

plot(flights_hash, 
     col = c("white","steelblue"), 
     key = NULL,
     border = NA)

Графическое представление выборки фиктивных хеш-значений для факторных значений перевозчиков.

Давайте потренируемся!

Конструирование признаков в R