Ansambluri și ajustarea hiperparametrilor

Predicția CTR cu Machine Learning în Python

Kevin Huo

Instructor

Metode de ansamblu

Exemplu de agregare bootstrap

  • Bagging: eșantioane aleatorii selectate pentru modele diferite, care sunt antrenate individual și combinate.
Predicția CTR cu Machine Learning în Python

Păduri aleatoare

clf = RandomForestClassifier()
print(clf)

RandomForestClassifier(
  bootstrap=True,
  ...
  max_depth = 10,
  ...
  n_estimators = 100,
  ...)
Predicția CTR cu Machine Learning în Python

Ajustarea hiperparametrilor

  • Hiperparametru: parametru configurat înainte de antrenare, extern modelului
  • Exemple de parametri, dar NU hiperparametri: coeficientul de pantă în regresia liniară, ponderile în regresia logistică etc.
  • Exemple de hiperparametri: max_depth, n_estimators etc.
Predicția CTR cu Machine Learning în Python

Căutare în grilă

param_grid = {'n_estimators': n_estimators, 
              'max_depth': max_depth}

clf = GridSearchCV(estimator = model, 
                   param_grid = param_grid, 
                   scoring = 'roc_auc')
print(clf.best_score_)
print(clf.best_estimator_)

0.6777
RandomForestClassifier(max_depth = 100, ...)
Predicția CTR cu Machine Learning în Python

Să exersăm!

Predicția CTR cu Machine Learning în Python

Preparing Video For Download...