ブースティング入門

Rで学ぶTree-Based ModelsによるMachine Learning

Sandro Raabe

Data Scientist

単一分類器

Rで学ぶTree-Based ModelsによるMachine Learning

バギングまたはランダムフォレスト

Rで学ぶTree-Based ModelsによるMachine Learning

ブースティング 1

Rで学ぶTree-Based ModelsによるMachine Learning

ブースティング 2

Rで学ぶTree-Based ModelsによるMachine Learning

ブースティング 3

Rで学ぶTree-Based ModelsによるMachine Learning

ブースティング 4

Rで学ぶTree-Based ModelsによるMachine Learning

Adaboost

  • 最初の有名なブースティング手法: Adaboost = Adaptive Boosting
  • 発想: 誤分類された学習例の重みを次回以降の学習で調整する

Adaboost 可視化 1

Rで学ぶTree-Based ModelsによるMachine Learning

Adaboost

  • 最初の有名なブースティング手法: Adaboost = Adaptive Boosting
  • 発想: 誤分類された学習例の重みを次回以降の学習で調整する

Adaboost 可視化 2

Rで学ぶTree-Based ModelsによるMachine Learning

Adaboost

  • 最初の有名なブースティング手法: Adaboost = Adaptive Boosting
  • 発想: 誤分類された学習例の重みを次回以降の学習で調整する

Adaboost 可視化 3

Rで学ぶTree-Based ModelsによるMachine Learning

Adaboost

  • 最初の有名なブースティング手法: Adaboost = Adaptive Boosting
  • 発想: 誤分類された学習例の重みを次回以降の学習で調整する

Adaboost 可視化 4

  • その後、勾配降下法で改良
Rで学ぶTree-Based ModelsによるMachine Learning

コーディング: ブースティングアンサンブルの指定

# Specify the model class
boost_tree() %>%

    # Set the mode
    set_mode("classification") %>%

    # Set the engine
    set_engine("xgboost")

Boosted Tree Model Specification (classification)

Computational engine: xgboost
  • tidymodelsでブースティングを簡単に実行！
Rで学ぶTree-Based ModelsによるMachine Learning

ブーストしてみましょう！

Rで学ぶTree-Based ModelsによるMachine Learning

Preparing Video For Download...