Cây bagging

Machine Learning với Mô hình Dựa trên Cây trong R

Sandro Raabe

Data Scientist

Nhiều đầu óc tốt hơn một

trí tuệ đám đông

Machine Learning với Mô hình Dựa trên Cây trong R

Bootstrap & gộp

  • Bagging = viết tắt của Bootstrap Aggregation

 

 1. Bootstrapping

  • Lấy mẫu có hoàn lại $\rightarrow$ nhiều tập huấn luyện biến thể

 

 2. Gộp (Aggregation)

  • Gộp dự đoán của các mô hình để ra dự đoán cuối:
    • Trung bình (hồi quy)
    • Bỏ phiếu đa số (phân loại)
Machine Learning với Mô hình Dựa trên Cây trong R

Bước 1: Bootstrap và huấn luyện

sơ đồ bootstrapping

Machine Learning với Mô hình Dựa trên Cây trong R

Bước 2: Gộp

gộp kết quả

Machine Learning với Mô hình Dựa trên Cây trong R

Lập trình: Đặc tả cây bagging

library(baguette)
spec_bagged <- bag_tree() %>%

    set_mode("classification") %>%

    set_engine("rpart", times = 100)

Đặc tả Mô hình Cây Quyết định Bagging (phân loại)

Tham số chính:
  cost_complexity = 0
  min_n = 2

Tham số theo engine:
  times = 100

Engine tính toán: rpart
Machine Learning với Mô hình Dựa trên Cây trong R

Huấn luyện tất cả cây

model_bagged <- fit(spec_bagged, formula = still_customer ~ ., data = customers_train)

đối tượng mô hình parsnip

Thời gian huấn luyện:  23.9s

Bagged CART (phân loại với 100 mô hình)

Điểm quan trọng biến gồm:

# A tibble: 19 x 4
   term                     value std.error  used
   <chr>                    <dbl>     <dbl> <int>
 1 total_trans_ct           876.      3.93    100
 2 total_trans_amt          800.      4.54    100
 3 total_revolving_bal      491.      3.67    100
Machine Learning với Mô hình Dựa trên Cây trong R

Hãy bootstrap!

Machine Learning với Mô hình Dựa trên Cây trong R

Preparing Video For Download...