Úvod do boostingu

Machine Learning with Tree-Based Models in R

Sandro Raabe

Data Scientist

jeden klasifikátor

Machine Learning with Tree-Based Models in R

bagging nebo náhodný les

Machine Learning with Tree-Based Models in R

boosting 1

Machine Learning with Tree-Based Models in R

boosting 2

Machine Learning with Tree-Based Models in R

boosting 3

Machine Learning with Tree-Based Models in R

boosting 4

Machine Learning with Tree-Based Models in R

Adaboost

  • První slavný boostingový algoritmus: Adaboost = Adaptivní boosting
  • Myšlenka: Změna vah chybně klasifikovaných příkladů v dalších trénováních

vizualizace adaboost 1

Machine Learning with Tree-Based Models in R

Adaboost

  • První slavný boostingový algoritmus: Adaboost = Adaptivní boosting
  • Myšlenka: Změna vah chybně klasifikovaných příkladů v dalších trénováních

vizualizace adaboost 2

Machine Learning with Tree-Based Models in R

Adaboost

  • První slavný boostingový algoritmus: Adaboost = Adaptivní boosting
  • Myšlenka: Změna vah chybně klasifikovaných příkladů v dalších trénováních

vizualizace adaboost 3

Machine Learning with Tree-Based Models in R

Adaboost

  • První slavný boostingový algoritmus: Adaboost = Adaptivní boosting
  • Myšlenka: Změna vah chybně klasifikovaných příkladů v dalších trénováních

vizualizace adaboost 4

  • Vylepšeno přidáním gradientního sestupu
Machine Learning with Tree-Based Models in R

Kódování: Specifikace boostingového ensemblu

# Specify the model class
boost_tree() %>%

    # Set the mode
    set_mode("classification") %>%

    # Set the engine
    set_engine("xgboost")

Boosted Tree Model Specification (classification)

Computational engine: xgboost
  • Jednoduché rozhraní pro boosting přes tidymodels!
Machine Learning with Tree-Based Models in R

Pojďme boostovat!

Machine Learning with Tree-Based Models in R

Preparing Video For Download...