Boosting 入門

R 的樹狀模型機器學習

Sandro Raabe

Data Scientist

單一分類器

R 的樹狀模型機器學習

Bagging 或隨機森林

R 的樹狀模型機器學習

boosting 1

R 的樹狀模型機器學習

boosting 2

R 的樹狀模型機器學習

boosting 3

R 的樹狀模型機器學習

boosting 4

R 的樹狀模型機器學習

Adaboost

  • 第一個著名的 boosting 演算法:Adaboost = Adaptive Boosting(自適性增強)
  • 概念:在後續訓練中,調整被錯誤分類之訓練樣本的權重

Adaboost 視覺化 1

R 的樹狀模型機器學習

Adaboost

  • 第一個著名的 boosting 演算法:Adaboost = Adaptive Boosting(自適性增強)
  • 概念:在後續訓練中,調整被錯誤分類之訓練樣本的權重

Adaboost 視覺化 2

R 的樹狀模型機器學習

Adaboost

  • 第一個著名的 boosting 演算法:Adaboost = Adaptive Boosting(自適性增強)
  • 概念:在後續訓練中,調整被錯誤分類之訓練樣本的權重

Adaboost 視覺化 3

R 的樹狀模型機器學習

Adaboost

  • 第一個著名的 boosting 演算法:Adaboost = Adaptive Boosting(自適性增強)
  • 概念:在後續訓練中,調整被錯誤分類之訓練樣本的權重

Adaboost 視覺化 4

  • 之後以 gradient descent 改良
R 的樹狀模型機器學習

程式碼:指定一個提升式集成

# Specify the model class
boost_tree() %>%

# Set the mode set_mode("classification") %>%
# Set the engine set_engine("xgboost")
Boosted Tree Model Specification (classification)

Computational engine: xgboost
  • 透過 tidymodels 輕鬆使用 boosting!
R 的樹狀模型機器學習

開始 Boost 吧!

R 的樹狀模型機器學習

Preparing Video For Download...