Uyarlamalı boosting: ödüllü model

Python'da Ensemble Yöntemleri

Román de las Heras

Data Scientist, Appodeal

Ödüllü model

AdaBoost hakkında:

  • Yoav Freund ve Robert Schapire tarafından önerildi (1997)
  • 2003'te Gödel Ödülü kazandı
  • İlk pratik boosting algoritması
  • Yaygın kullanılan ve bilinen bir topluluk yöntemi

godel-prize.jpg

Python'da Ensemble Yöntemleri

AdaBoost özellikleri

  1. Örnekler bir örnekleme dağılımından seçilir
    • Zor örneklerin ağırlıkları daha yüksektir
    • Başlangıçta uniformdur
  2. Tahminciler ağırlıklı çoğunluk oyu ile birleştirilir
    • İyi tahmincilere daha yüksek ağırlık verilir
  3. İyileşme garantilidir
  4. Sınıflandırma ve Regresyon

adaboost-sample.bmp

Python'da Ensemble Yöntemleri

scikit-learn ile AdaBoost classifier

AdaBoostClassifier

from sklearn.ensemble import AdaBoostClassifier

clf_ada = AdaBoostClassifier(
   base_estimator,
   n_estimators,
   learning_rate
)

Parametreler

  • base_estimator
    • Varsayılan: Karar Ağacı (max_depth=1)
  • n_estimators
    • Varsayılan: 50
  • learning_rate
    • Varsayılan: 1.0
    • n_estimators ile learning_rate arasında denge
Python'da Ensemble Yöntemleri

scikit-learn ile AdaBoost regressor

AdaBoostRegressor

from sklearn.ensemble import AdaBoostRegressor

reg_ada = AdaBoostRegressor(
   base_estimator,
   n_estimators,
   learning_rate,
   loss
)

Parametreler

  • base_estimator
    • Varsayılan: Karar Ağacı (max_depth=3)
  • loss
    • linear (varsayılan)
    • square
    • exponential
Python'da Ensemble Yöntemleri

Hadi pratik yapalım!

Python'da Ensemble Yöntemleri

Preparing Video For Download...