變數重要性

R 的特徵工程

Jorge Zazueta

Research Professor. Head of the Modeling Group at the School of Economics, UASLP

加入更多預測變數

更完整的模型會納入多個變數。

lr_model <- logistic_reg()
lr_recipe <- 
  recipe(class~ sponsor_code +
         contract_value_band +
         category_code, 
         data = grants_train) %>%
  step_lencode_glm(sponsor_code,
                   contract_value_band,
                   category_code, 
                   outcome = vars(class))

而且表現更佳。

lr_aug %>% class_evaluate(truth = class,
               estimate = .pred_class,
               .pred_successful)

# A tibble: 2 × 3
  .metric  .estimator .estimate
  <chr>    <chr>          <dbl>
1 accuracy binary         0.890
2 roc_auc  binary         0.951

哪些變數最重要？

可以使用 vip() 套件繪製依重要性排序的特徵。

lr_fit %>%
  extract_fit_parsnip() %>%
  vip(aesthetics = 
      list(fill = "steelblue"))

變數重要性圖表

變數重要性長條圖。

變數重要性與特徵工程

變數重要性能根據領域知識，為特徵工程提供有效回饋。

變數重要性與特徵工程流程。

一起來練習吧！

R 的特徵工程