Introductie tot boosting

Machine Learning met boomgebaseerde modellen in R

Sandro Raabe

Data Scientist

enkele classifier

Machine Learning met boomgebaseerde modellen in R

bagging of random forest

Machine Learning met boomgebaseerde modellen in R

boosting 1

Machine Learning met boomgebaseerde modellen in R

boosting 2

Machine Learning met boomgebaseerde modellen in R

boosting 3

Machine Learning met boomgebaseerde modellen in R

boosting 4

Machine Learning met boomgebaseerde modellen in R

Adaboost

  • Eerste bekende boosting-algoritme: Adaboost = Adaptive Boosting
  • Idee: Verander het gewicht van fout geclassificeerde trainingsvoorbeelden in volgende trainingsrondes

adaboost visualization 1

Machine Learning met boomgebaseerde modellen in R

Adaboost

  • Eerste bekende boosting-algoritme: Adaboost = Adaptive Boosting
  • Idee: Verander het gewicht van fout geclassificeerde trainingsvoorbeelden in volgende trainingsrondes

adaboost visualization 2

Machine Learning met boomgebaseerde modellen in R

Adaboost

  • Eerste bekende boosting-algoritme: Adaboost = Adaptive Boosting
  • Idee: Verander het gewicht van fout geclassificeerde trainingsvoorbeelden in volgende trainingsrondes

adaboost visualization 3

Machine Learning met boomgebaseerde modellen in R

Adaboost

  • Eerste bekende boosting-algoritme: Adaboost = Adaptive Boosting
  • Idee: Verander het gewicht van fout geclassificeerde trainingsvoorbeelden in volgende trainingsrondes

adaboost visualization 4

  • Verbeterd met gradient descent
Machine Learning met boomgebaseerde modellen in R

Coderen: een boosted ensemble specificeren

# Specify the model class
boost_tree() %>%

# Set the mode set_mode("classification") %>%
# Set the engine set_engine("xgboost")
Boosted Tree Model Specification (classification)

Computational engine: xgboost
  • Eenvoudige boosting-interface via tidymodels!
Machine Learning met boomgebaseerde modellen in R

Laten we boosten!

Machine Learning met boomgebaseerde modellen in R

Preparing Video For Download...