Baggade träd

Maskininlärning med trädbaserade modeller i R

Sandro Raabe

Data Scientist

Flera huvuden tänker bättre

kollektiv kunskap

Maskininlärning med trädbaserade modeller i R

Bootstrap och aggregering

  • Bagging = förkortning för Bootstrap Aggregation

 

 1. Bootstrapping

  • Urval med återläggning $\rightarrow$ många modifierade träningsset

 

 2. Aggregering

  • Olika modellers prediktioner aggregeras till en slutlig prediktion:
    • Medelvärde (vid regression)
    • Majoritetsbeslut (vid klassificering)
Maskininlärning med trädbaserade modeller i R

Steg 1: Bootstrap och träning

bootstrapping-schema

Maskininlärning med trädbaserade modeller i R

Steg 2: Aggregera

aggregera resultat

Maskininlärning med trädbaserade modeller i R

Kod: Specificera de baggade träden

library(baguette)
spec_bagged <- bag_tree() %>%

    set_mode("classification") %>%

    set_engine("rpart", times = 100)

Bagged Decision Tree Model Specification (classification)

Main Arguments:
  cost_complexity = 0
  min_n = 2

Engine-Specific Arguments:
  times = 100

Computational engine: rpart
Maskininlärning med trädbaserade modeller i R

Träna alla träd

model_bagged <- fit(spec_bagged, formula = still_customer ~ ., data = customers_train)

parsnip model object

Fit time:  23.9s

Bagged CART (classification with 100 members)

Variable importance scores include:

# A tibble: 19 x 4
   term                     value std.error  used
   <chr>                    <dbl>     <dbl> <int>
 1 total_trans_ct           876.      3.93    100
 2 total_trans_amt          800.      4.54    100
 3 total_revolving_bal      491.      3.67    100
Maskininlärning med trädbaserade modeller i R

Nu kör vi en övning!

Maskininlärning med trädbaserade modeller i R

Preparing Video For Download...