Introduzione al boosting

Machine Learning con modelli ad albero in R

Sandro Raabe

Data Scientist

classificatore singolo

Machine Learning con modelli ad albero in R

bagging o random forest

Machine Learning con modelli ad albero in R

boosting 1

Machine Learning con modelli ad albero in R

boosting 2

Machine Learning con modelli ad albero in R

boosting 3

Machine Learning con modelli ad albero in R

boosting 4

Machine Learning con modelli ad albero in R

Adaboost

  • Primo algoritmo di boosting famoso: Adaboost = Adaptive Boosting
  • Idea: cambiare il peso dei casi di training classificati male negli addestramenti successivi

visualizzazione adaboost 1

Machine Learning con modelli ad albero in R

Adaboost

  • Primo algoritmo di boosting famoso: Adaboost = Adaptive Boosting
  • Idea: cambiare il peso dei casi di training classificati male negli addestramenti successivi

visualizzazione adaboost 2

Machine Learning con modelli ad albero in R

Adaboost

  • Primo algoritmo di boosting famoso: Adaboost = Adaptive Boosting
  • Idea: cambiare il peso dei casi di training classificati male negli addestramenti successivi

visualizzazione adaboost 3

Machine Learning con modelli ad albero in R

Adaboost

  • Primo algoritmo di boosting famoso: Adaboost = Adaptive Boosting
  • Idea: cambiare il peso dei casi di training classificati male negli addestramenti successivi

visualizzazione adaboost 4

  • Migliorato aggiungendo la discesa del gradiente
Machine Learning con modelli ad albero in R

Coding: specifica un ensemble potenziato

# Specify the model class
boost_tree() %>%

    # Set the mode
    set_mode("classification") %>%

    # Set the engine
    set_engine("xgboost")

Boosted Tree Model Specification (classification)

Computational engine: xgboost
  • Interfaccia semplice al boosting con tidymodels!
Machine Learning con modelli ad albero in R

Boostiamo!

Machine Learning con modelli ad albero in R

Preparing Video For Download...