XGBoost 可調參數

使用 XGBoost 的極端梯度提升

Sergey Fogelson

Head of Data Science, TelevisaUnivision

樹模型常見可調參數

  • learning rate： learning rate/eta
  • gamma： 產生新樹切分所需的最小損失下降
  • lambda： 葉節點權重的 L2 正規化
  • alpha： 葉節點權重的 L1 正規化
  • max_depth： 每棵樹的最大深度
  • subsample： 每棵樹使用的樣本比例（%）
  • colsample_bytree： 每棵樹使用的特徵比例（%）
使用 XGBoost 的極端梯度提升

線性模型可調參數

  • lambda： 權重的 L2 正規化
  • alpha： 權重的 L1 正規化

  • lambda_bias： 偏差項的 L2 正規化

  • 你也可以調整兩種基底模型的 estimators 數量！

使用 XGBoost 的極端梯度提升

開始調參吧！

使用 XGBoost 的極端梯度提升

Preparing Video For Download...