Feature hashing

Feature Engineering em R

Jorge Zazueta

Research Professor and Head of the Modeling Group at the School of Economics, UASLP

O que é feature hashing?

Transforma uma variável de texto em um conjunto de variáveis numéricas
Usa hash values como índices de features
Representação de dados com baixo uso de memória
Útil quando esperamos novas categorias nos novos dados

Atribua um índice a cada companhia aérea com base nos valores de texto.

Tabela ilustrando feature hashing para companhias aéreas.

Quantas companhias existem?

O conjunto de dados flights inclui companhias como fatores, mas não sabemos se novas companhias aparecerão quando virmos novos dados.

flights %>%
  select(carrier) %>%
  table()

carrier
  9E   AA   AS   B6   DL   EV   F9   FL   HA   MQ   OO   UA   US   VX   WN   YV 
 859 1744   26 2503 2619 3014   38  186   14 1540    2 3367 1228  244  757   41

Vamos aplicar hashing nessa feature

Podemos criar hashes dummy para representar os valores fator. Usando o pacote textrecipes.

recipe <- recipe(~carrier, 
                 data = flights_train) %>%
  step_dummy_hash(carrier, prefix = NULL, 
                  signed = FALSE, 
                  num_terms = 50L)
# Prep the recipe
object <- recipe %>%
  prep()

# Bake the recipe object with new data
baked <- bake(object,
              new_data = flights_test)

Uma espiada na step_dummy_hash() representação.

bind_cols(flights_test$carrier,baked)[1:6,c(1,18:20)]

New names:
• `` -> `...1`
# A tibble: 10 × 4
   ...1  `_carrier_17` `_carrier_18` `_carrier_19`
   <chr>         <int>         <int>         <int>
 1 EV                0             0             0
 2 B6                0             1             0
 3 EV                0             0             0
 4 MQ                0             0             0
 5 DL                0             0             0
 6 EV                0             0             0

Visualizando o hashing

Podemos visualizar a matriz com a ajuda do pacote plot.matrix.

flights_hash <- 
    as.matrix(baked)[1:50,] 

plot(flights_hash, 
     col = c("white","steelblue"), 
     key = NULL,
     border = NA)

Uma representação gráfica de uma amostra das atribuições de dummy hash do fator de companhia original.

Vamos praticar!

Feature Engineering em R