XGBoost 可调参数

使用 XGBoost 的极端梯度提升

Sergey Fogelson

Head of Data Science, TelevisaUnivision

常见树模型可调参数

  • learning rate: 学习率/eta
  • gamma: 新分裂所需的最小损失减少
  • lambda: 叶子权重的 L2 正则
  • alpha: 叶子权重的 L1 正则
  • max_depth: 每棵树的最大深度
  • subsample: 每棵树使用的样本比例
  • colsample_bytree: 每棵树使用的特征比例
使用 XGBoost 的极端梯度提升

线性模型可调参数

  • lambda: 权重的 L2 正则
  • alpha: 权重的 L1 正则
  • lambda_bias: 偏置项的 L2 正则

  • 两种基模型都可调节估计器数量!

使用 XGBoost 的极端梯度提升

开始调参吧!

使用 XGBoost 的极端梯度提升

Preparing Video For Download...