Variante de gradient boosting
Metode de ansamblu în Python
Román de las Heras
Data Scientist, Appodeal
Variante de gradient boosting
Algoritm de gradient boosting
- Extreme Gradient Boosting
- Light Gradient Boosting Machine
- Categorical Boosting
Implementare
- XGBoost
- LightGBM
- CatBoost
Extreme gradient boosting (XGBoost)
Câteva proprietăți:
- Optimizat pentru calcul distribuit
- Antrenare paralelă nativă
- Scalabil, portabil și precis
import xgboost as xgb
clf_xgb = xgb.XGBClassifier(
n_estimators=100,
learning_rate=None,
max_depth=None,
random_state
)
clg_xgb.fit(X_train, y_train)
pred = clf_xgb.predict(X_test)
Light gradient boosting machine
Câteva proprietăți:
- Lansat de Microsoft (2017)
- Antrenare mai rapidă și mai eficientă
- Consum redus de spațiu
- Optimizat pentru procesare paralelă și GPU
- Util pentru seturi mari de date cu constrângeri de viteză sau memorie
import lightgbm as lgb
clf_lgb = lgb.LGBMClassifier(
n_estimators=100,
learning_rate=0.1,
max_depth=-1,
random_state
)
clf_lgb.fit(X_train, y_train)
pred = clf_lgb.predict(X_test)
Categorical boosting
Câteva proprietăți:
- Open source de la Yandex (aprilie 2017)
- Gestionare nativă a variabilelor categorice
- Precis și robust
- Rapid și scalabil
- API ușor de utilizat
import catboost as cb
clf_cat = cb.CatBoostClassifier(
n_estimators=None,
learning_rate=None,
max_depth=None,
random_state
)
clf_cat.fit(X_train, y_train)
pred = clf_cat.predict(X_test)
Rândul dumneavoastră!
Metode de ansamblu în Python
