Важливість змінних

Feature Engineering в R

Jorge Zazueta

Research Professor. Head of the Modeling Group at the School of Economics, UASLP

Додаємо більше предикторів

Більш повна модель містить багато змінних.

lr_model <- logistic_reg()
lr_recipe <- 
  recipe(class~ sponsor_code +
         contract_value_band +
         category_code, 
         data = grants_train) %>%
  step_lencode_glm(sponsor_code,
                   contract_value_band,
                   category_code, 
                   outcome = vars(class))

І дає переконливіші результати.

lr_aug %>% class_evaluate(truth = class,
               estimate = .pred_class,
               .pred_successful)

# A tibble: 2 × 3
  .metric  .estimator .estimate
  <chr>    <chr>          <dbl>
1 accuracy binary         0.890
2 roc_auc  binary         0.951

Які змінні найважливіші?

Можна побудувати графік ознак за важливістю за допомогою пакета vip().

lr_fit %>%
  extract_fit_parsnip() %>%
  vip(aesthetics = 
      list(fill = "steelblue"))

Діаграма важливості змінних

Стовпчикова діаграма важливості змінних.

Важливість змінних і конструювання ознак

Важливість змінних — потужний механізм зворотного зв'язку для уточнення ознак з урахуванням предметної області.

Робочий процес: важливість змінних і конструювання ознак.

Давайте потренуємось!

Feature Engineering в R