Hašování příznaků

Feature Engineering v R

Jorge Zazueta

Research Professor and Head of the Modeling Group at the School of Economics, UASLP

Co je hašování příznaků?

  • Převádí textovou proměnnou na sadu numerických proměnných
  • Jako indexy příznaků používá hašované hodnoty
  • Nízká paměťová náročnost dat
  • Vhodné při očekávání nových kategorií v nových datech

Každému dopravci přiřadí indexové číslo na základě textových hodnot.

Tabulka znázorňující hašování příznaků pro letecké dopravce.

Feature Engineering v R

Kolik dopravců existuje?

Datová sada flights obsahuje dopravce jako faktory, ale nevíme, zda se v nových datech objeví noví dopravci.

flights %>%
  select(carrier) %>%
  table()
carrier
  9E   AA   AS   B6   DL   EV   F9   FL   HA   MQ   OO   UA   US   VX   WN   YV 
 859 1744   26 2503 2619 3014   38  186   14 1540    2 3367 1228  244  757   41
Feature Engineering v R

Hašujme tento příznak

Hodnoty faktoru lze reprezentovat pomocí dummy hašů s balíčkem textrecipes.

recipe <- recipe(~carrier, 
                 data = flights_train) %>%
  step_dummy_hash(carrier, prefix = NULL, 
                  signed = FALSE, 
                  num_terms = 50L)
# Prep the recipe
object <- recipe %>%
  prep()

# Bake the recipe object with new data
baked <- bake(object,
              new_data = flights_test)

Náhled reprezentace funkce step_dummy_hash().

bind_cols(flights_test$carrier,baked)[1:6,c(1,18:20)]
New names:
• `` -> `...1`
# A tibble: 10 × 4
   ...1  `_carrier_17` `_carrier_18` `_carrier_19`
   <chr>         <int>         <int>         <int>
 1 EV                0             0             0
 2 B6                0             1             0
 3 EV                0             0             0
 4 MQ                0             0             0
 5 DL                0             0             0
 6 EV                0             0             0
Feature Engineering v R

Vizualizace hašování

Matici lze zobrazit pomocí balíčku plot.matrix.

flights_hash <- 
    as.matrix(baked)[1:50,] 

plot(flights_hash, 
     col = c("white","steelblue"), 
     key = NULL,
     border = NA)

Grafické znázornění vzorku hašovaných dummy přiřazení původního faktoru dopravce.

Feature Engineering v R

Pojďme si procvičit!

Feature Engineering v R

Preparing Video For Download...