Gradient boosting के प्रकार
Python में Ensemble Methods
Román de las Heras
Data Scientist, Appodeal
Gradient boosting की विविधताएँ
Gradient Boosting Algorithm
- Extreme Gradient Boosting
- Light Gradient Boosting Machine
- Categorical Boosting
Implementation
- XGBoost
- LightGBM
- CatBoost
Extreme gradient boosting (XGBoost)
कुछ गुण:
- Distributed computing के लिए optimized
- स्वभाव से parallel training
- Scalable, portable, और accurate
import xgboost as xgb
clf_xgb = xgb.XGBClassifier(
n_estimators=100,
learning_rate=None,
max_depth=None,
random_state
)
clg_xgb.fit(X_train, y_train)
pred = clf_xgb.predict(X_test)
Light gradient boosting machine
कुछ गुण:
- Microsoft द्वारा जारी (2017)
- तेज training और अधिक efficient
- स्पेस की दृष्टि से हल्का
- Parallel और GPU processing के लिए optimized
- बड़े datasets और speed या memory constraints वाले समस्याओं में उपयोगी
import lightgbm as lgb
clf_lgb = lgb.LGBMClassifier(
n_estimators=100,
learning_rate=0.1,
max_depth=-1,
random_state
)
clf_lgb.fit(X_train, y_train)
pred = clf_lgb.predict(X_test)
Categorical boosting
कुछ गुण:
- Yandex द्वारा open sourced (April 2017)
- Categorical features का built-in हैंडलिंग
- Accurate और robust
- तेज और scalable
- User-friendly API
import catboost as cb
clf_cat = cb.CatBoostClassifier(
n_estimators=None,
learning_rate=None,
max_depth=None,
random_state
)
clf_cat.fit(X_train, y_train)
pred = clf_cat.predict(X_test)
अब आपकी बारी!
Python में Ensemble Methods
