Parametrii bagging: sfaturi și trucuri

Metode de ansamblu în Python

Román de las Heras

Data Scientist, Appodeal

Parametri de bază pentru bagging

Parametri de bază
  • base_estimator
  • n_estimators
  • oob_score
    • est_bag.oob_score_
Metode de ansamblu în Python

Parametri suplimentari pentru bagging

Parametri suplimentari
  • max_samples: numărul de eșantioane extrase pentru fiecare estimator.
  • max_features: numărul de caracteristici extrase pentru fiecare estimator.
    • Clasificare ~ sqrt(number_of_features)
    • Regresie ~ number_of_features / 3
  • bootstrap: dacă eșantioanele sunt extrase cu înlocuire.
    • True --> max_samples = 1.0
    • False --> max_samples < 1.0
Metode de ansamblu în Python

Pădure aleatoare

Clasificare

from sklearn.ensemble import RandomForestClassifier

clf_rf = RandomForestClassifier(
    # parameters...
)

Regresie

from sklearn.ensemble import RandomForestRegressor

reg_rf = RandomForestRegressor(
    # parameters...
)

Parametri bagging:

  • n_estimators
  • max_features
  • oob_score

Parametri specifici arborelui:

  • max_depth
  • min_samples_split
  • min_samples_leaf
  • class_weight ("balanced")
Metode de ansamblu în Python

Compromisul bias-varianță

Compromisul bias-varianță

Metode de ansamblu în Python

Să exersăm!

Metode de ansamblu în Python

Preparing Video For Download...