提升方法简介

R 中的树模型机器学习

Sandro Raabe

Data Scientist

单一分类器

R 中的树模型机器学习

Bagging 或随机森林

R 中的树模型机器学习

提升 1

R 中的树模型机器学习

提升 2

R 中的树模型机器学习

提升 3

R 中的树模型机器学习

提升 4

R 中的树模型机器学习

Adaboost

  • 首个知名提升算法：Adaboost = Adaptive Boosting（自适应提升）
  • 思路：在后续训练中提高被误分类样本的权重

Adaboost 可视化 1

R 中的树模型机器学习

Adaboost

  • 首个知名提升算法：Adaboost = Adaptive Boosting（自适应提升）
  • 思路：在后续训练中提高被误分类样本的权重

Adaboost 可视化 2

R 中的树模型机器学习

Adaboost

  • 首个知名提升算法：Adaboost = Adaptive Boosting（自适应提升）
  • 思路：在后续训练中提高被误分类样本的权重

Adaboost 可视化 3

R 中的树模型机器学习

Adaboost

  • 首个知名提升算法：Adaboost = Adaptive Boosting（自适应提升）
  • 思路：在后续训练中提高被误分类样本的权重

Adaboost 可视化 4

  • 结合"梯度下降"进一步改进
R 中的树模型机器学习

编码：指定一个提升集成模型

# Specify the model class
boost_tree() %>%

    # Set the mode
    set_mode("classification") %>%

    # Set the engine
    set_engine("xgboost")

Boosted Tree Model Specification (classification)

Computational engine: xgboost
  • 通过 tidymodels 可轻松使用提升法！
R 中的树模型机器学习

开始提升吧！

R 中的树模型机器学习

Preparing Video For Download...