Topluluk yöntemleri ve hiperparametre ayarı

Python ile Machine Learning kullanarak TOB tahmini

Kevin Huo

Instructor

Topluluk yöntemleri

Bootstrap toplulaştırma örneği

Bagging: farklı modeller için rastgele örnekler seçilir, modeller ayrı ayrı eğitilir ve birleştirilir.

Rastgele ormanlar

clf = RandomForestClassifier()
print(clf)

RandomForestClassifier(
  bootstrap=True,
  ...
  max_depth = 10,
  ...
  n_estimators = 100,
  ...)

Hiperparametre ayarı

Hiperparametre: eğitimden önce ayarlanan ve modele dışsal parametreler
Parametre örnekleri ancak hiperparametre DEĞİL: doğrusal regresyonda eğim katsayısı, lojistik regresyonda ağırlıklar vb.
Hiperparametre örnekleri: max_depth, n_estimators vb.

Izgara arama

param_grid = {'n_estimators': n_estimators, 
              'max_depth': max_depth}

clf = GridSearchCV(estimator = model, 
                   param_grid = param_grid, 
                   scoring = 'roc_auc')
print(clf.best_score_)
print(clf.best_estimator_)

0.6777
RandomForestClassifier(max_depth = 100, ...)

Haydi pratik yapalım!

Python ile Machine Learning kullanarak TOB tahmini