Paramètres ajustables dans XGBoost

Amorçage de gradient avancé avec XGBoost

Sergey Fogelson

Head of Data Science, TelevisaUnivision

Paramètres courants ajustables pour les arbres

  • learning rate : taux d'apprentissage/eta
  • gamma : réduction minimale de perte pour créer une nouvelle division
  • lambda : régularisation L2 des poids des feuilles
  • alpha : régularisation L1 des poids des feuilles
  • max_depth : profondeur maximale par arbre
  • subsample : % d'échantillons utilisés par arbre
  • colsample_bytree : % de caractéristiques utilisées par arbre
Amorçage de gradient avancé avec XGBoost

Paramètres ajustables pour les modèles linéaires

  • lambda : régularisation L2 des poids
  • alpha : régularisation L1 des poids

  • lambda_bias : terme de régularisation L2 sur le biais

  • Vous pouvez aussi ajuster le nombre d'estimateurs pour les deux types de modèles de base !

Amorçage de gradient avancé avec XGBoost

Passons à la pratique !

Amorçage de gradient avancé avec XGBoost

Preparing Video For Download...