Wprowadzenie do boostingu

Uczenie maszynowe z modelami drzewiastymi w R

Sandro Raabe

Data Scientist

pojedynczy klasyfikator

Uczenie maszynowe z modelami drzewiastymi w R

bagging lub las losowy

Uczenie maszynowe z modelami drzewiastymi w R

boosting 1

Uczenie maszynowe z modelami drzewiastymi w R

boosting 2

Uczenie maszynowe z modelami drzewiastymi w R

boosting 3

Uczenie maszynowe z modelami drzewiastymi w R

boosting 4

Uczenie maszynowe z modelami drzewiastymi w R

Adaboost

  • Pierwszy znany algorytm boostingu: Adaboost = Adaptive Boosting
  • Idea: Zmiana wag błędnie sklasyfikowanych przykładów w kolejnych treningach

wizualizacja adaboost 1

Uczenie maszynowe z modelami drzewiastymi w R

Adaboost

  • Pierwszy znany algorytm boostingu: Adaboost = Adaptive Boosting
  • Idea: Zmiana wag błędnie sklasyfikowanych przykładów w kolejnych treningach

wizualizacja adaboost 2

Uczenie maszynowe z modelami drzewiastymi w R

Adaboost

  • Pierwszy znany algorytm boostingu: Adaboost = Adaptive Boosting
  • Idea: Zmiana wag błędnie sklasyfikowanych przykładów w kolejnych treningach

wizualizacja adaboost 3

Uczenie maszynowe z modelami drzewiastymi w R

Adaboost

  • Pierwszy znany algorytm boostingu: Adaboost = Adaptive Boosting
  • Idea: Zmiana wag błędnie sklasyfikowanych przykładów w kolejnych treningach

wizualizacja adaboost 4

  • Udoskonalony przez dodanie gradientowego zejścia
Uczenie maszynowe z modelami drzewiastymi w R

Kod: Definiowanie zespołu z boostingiem

# Specify the model class
boost_tree() %>%

    # Set the mode
    set_mode("classification") %>%

    # Set the engine
    set_engine("xgboost")

Boosted Tree Model Specification (classification)

Computational engine: xgboost
  • Prosty interfejs do boostingu przez tidymodels!
Uczenie maszynowe z modelami drzewiastymi w R

Czas na boosting!

Uczenie maszynowe z modelami drzewiastymi w R

Preparing Video For Download...