Giới thiệu về boosting

Machine Learning với Mô hình Dựa trên Cây trong R

Sandro Raabe

Data Scientist

bộ phân loại đơn

Machine Learning với Mô hình Dựa trên Cây trong R

bagging hoặc random forest

Machine Learning với Mô hình Dựa trên Cây trong R

boosting 1

Machine Learning với Mô hình Dựa trên Cây trong R

boosting 2

Machine Learning với Mô hình Dựa trên Cây trong R

boosting 3

Machine Learning với Mô hình Dựa trên Cây trong R

boosting 4

Machine Learning với Mô hình Dựa trên Cây trong R

Adaboost

  • Thuật toán boosting nổi tiếng đầu tiên: Adaboost = Adaptive Boosting
  • Ý tưởng: Tăng trọng số cho các mẫu huấn luyện bị phân loại sai ở các lần huấn luyện sau

minh họa adaboost 1

Machine Learning với Mô hình Dựa trên Cây trong R

Adaboost

  • Thuật toán boosting nổi tiếng đầu tiên: Adaboost = Adaptive Boosting
  • Ý tưởng: Tăng trọng số cho các mẫu huấn luyện bị phân loại sai ở các lần huấn luyện sau

minh họa adaboost 2

Machine Learning với Mô hình Dựa trên Cây trong R

Adaboost

  • Thuật toán boosting nổi tiếng đầu tiên: Adaboost = Adaptive Boosting
  • Ý tưởng: Tăng trọng số cho các mẫu huấn luyện bị phân loại sai ở các lần huấn luyện sau

minh họa adaboost 3

Machine Learning với Mô hình Dựa trên Cây trong R

Adaboost

  • Thuật toán boosting nổi tiếng đầu tiên: Adaboost = Adaptive Boosting
  • Ý tưởng: Tăng trọng số cho các mẫu huấn luyện bị phân loại sai ở các lần huấn luyện sau

minh họa adaboost 4

  • Cải tiến bằng cách thêm gradient descent
Machine Learning với Mô hình Dựa trên Cây trong R

Mã: Khai báo một ensemble boosting

# Specify the model class
boost_tree() %>%

    # Set the mode
    set_mode("classification") %>%

    # Set the engine
    set_engine("xgboost")

Boosted Tree Model Specification (classification)

Computational engine: xgboost
  • Giao diện dùng tidymodels để làm boosting rất dễ!
Machine Learning với Mô hình Dựa trên Cây trong R

Hãy boosting!

Machine Learning với Mô hình Dựa trên Cây trong R

Preparing Video For Download...