Introduktion till boosting

Maskininlärning med trädbaserade modeller i R

Sandro Raabe

Data Scientist

enskild klassificerare

Maskininlärning med trädbaserade modeller i R

bagging eller random forest

Maskininlärning med trädbaserade modeller i R

boosting 1

Maskininlärning med trädbaserade modeller i R

boosting 2

Maskininlärning med trädbaserade modeller i R

boosting 3

Maskininlärning med trädbaserade modeller i R

boosting 4

Maskininlärning med trädbaserade modeller i R

Adaboost

  • Första kända boostingalgoritmen: Adaboost = Adaptive Boosting
  • Idé: Justera vikten för felklassificerade träningsexempel i efterföljande träningar

adaboost-visualisering 1

Maskininlärning med trädbaserade modeller i R

Adaboost

  • Första kända boostingalgoritmen: Adaboost = Adaptive Boosting
  • Idé: Justera vikten för felklassificerade träningsexempel i efterföljande träningar

adaboost-visualisering 2

Maskininlärning med trädbaserade modeller i R

Adaboost

  • Första kända boostingalgoritmen: Adaboost = Adaptive Boosting
  • Idé: Justera vikten för felklassificerade träningsexempel i efterföljande träningar

adaboost-visualisering 3

Maskininlärning med trädbaserade modeller i R

Adaboost

  • Första kända boostingalgoritmen: Adaboost = Adaptive Boosting
  • Idé: Justera vikten för felklassificerade träningsexempel i efterföljande träningar

adaboost-visualisering 4

  • Förbättrad med gradientmetoden
Maskininlärning med trädbaserade modeller i R

Kod: Specificera ett boostat ensemble

# Specify the model class
boost_tree() %>%

    # Set the mode
    set_mode("classification") %>%

    # Set the engine
    set_engine("xgboost")

Boosted Tree Model Specification (classification)

Computational engine: xgboost
  • Enkelt gränssnitt till boosting via tidymodels!
Maskininlärning med trädbaserade modeller i R

Nu kör vi en övning!

Maskininlärning med trädbaserade modeller i R

Preparing Video For Download...