Gradyan artırma türleri

Python'da Ensemble Yöntemleri

Román de las Heras

Data Scientist, Appodeal

Gradyan artırmanın varyasyonları

Gradyan Artırma Algoritması

  • Aşırı Gradyan Artırma
  • Hafif Gradyan Artırma Makinesi
  • Kategorik Artırma

Uygulama

  • XGBoost
  • LightGBM
  • CatBoost
Python'da Ensemble Yöntemleri

Aşırı gradyan artırma (XGBoost)

Bazı özellikler:

  • Dağıtık hesaplama için optimize edildi
  • Doğası gereği paralel eğitim
  • Ölçeklenebilir, taşınabilir ve doğru
import xgboost as xgb

clf_xgb = xgb.XGBClassifier(
   n_estimators=100,
   learning_rate=None,
   max_depth=None,
   random_state
)
clg_xgb.fit(X_train, y_train)
pred = clf_xgb.predict(X_test)
Python'da Ensemble Yöntemleri

Hafif gradyan artırma makinesi

Bazı özellikler:

  • Microsoft tarafından yayımlandı (2017)
  • Daha hızlı eğitim ve daha verimli
  • Daha hafif (depolama açısından)
  • Paralel ve GPU işlemeye optimize
  • Büyük veri ve hız/bellek kısıtları için uygun
import lightgbm as lgb

clf_lgb = lgb.LGBMClassifier(
   n_estimators=100,
   learning_rate=0.1,
   max_depth=-1,
   random_state
)
clf_lgb.fit(X_train, y_train)
pred = clf_lgb.predict(X_test)
Python'da Ensemble Yöntemleri

Kategorik artırma

Bazı özellikler:

  • Yandex tarafından açık kaynak (Nisan 2017)
  • Kategorik özellikleri yerleşik destekler
  • Doğru ve sağlam
  • Hızlı ve ölçeklenebilir
  • Kullanıcı dostu API
import catboost as cb

clf_cat = cb.CatBoostClassifier(
   n_estimators=None,
   learning_rate=None,
   max_depth=None,
   random_state
)
clf_cat.fit(X_train, y_train)
pred = clf_cat.predict(X_test)
Python'da Ensemble Yöntemleri

Sıra sizde!

Python'da Ensemble Yöntemleri

Preparing Video For Download...