배깅 트리

R로 배우는 트리 기반 Machine Learning

Sandro Raabe

Data Scientist

여럿이 한 사람보다 낫다

군중의 지혜

부트스트랩 & 집계

배깅 = Bootstrap Aggregation의 약자

1. 부트스트래핑

복원 추출 샘플링 $\rightarrow$ 수정된 학습 세트를 여러 개 생성

2. 집계

서로 다른 모델의 예측을 합쳐 최종 예측 생성:
- 회귀: 평균
- 분류: 다수결

1단계: 부트스트랩하고 학습

부트스트래핑 도식

2단계: 집계

결과 집계

코딩: 배깅 트리 지정

library(baguette)
spec_bagged <- bag_tree() %>%

    set_mode("classification") %>%

    set_engine("rpart", times = 100)

배깅 의사결정나무 모델 사양 (분류)

주요 인자:
  cost_complexity = 0
  min_n = 2

엔진별 인자:
  times = 100

계산 엔진: rpart

모든 트리 학습

model_bagged <- fit(spec_bagged, formula = still_customer ~ ., data = customers_train)

parsnip 모델 객체

적합 시간:  23.9초

배깅 CART (100개 구성원의 분류)

변수 중요도 점수:

# A tibble: 19 x 4
   term                     value std.error  used
   <chr>                    <dbl>     <dbl> <int>
 1 total_trans_ct           876.      3.93    100
 2 total_trans_amt          800.      4.54    100
 3 total_revolving_bal      491.      3.67    100

부트스트랩해 봅시다!

R로 배우는 트리 기반 Machine Learning