Parametry baggingu: wskazówki i porady

Metody zespołowe w Pythonie

Román de las Heras

Data Scientist, Appodeal

Podstawowe parametry baggingu

Podstawowe parametry
  • base_estimator
  • n_estimators
  • oob_score
    • est_bag.oob_score_
Metody zespołowe w Pythonie

Dodatkowe parametry baggingu

Dodatkowe parametry
  • max_samples: liczba próbek losowanych dla każdego estymatora.
  • max_features: liczba cech losowanych dla każdego estymatora.
    • Klasyfikacja ~ sqrt(liczba_cech)
    • Regresja ~ liczba_cech / 3
  • bootstrap: czy próbki są losowane ze zwracaniem.
    • True --> max_samples = 1.0
    • False --> max_samples < 1.0
Metody zespołowe w Pythonie

Las losowy

Klasyfikacja

from sklearn.ensemble import RandomForestClassifier

clf_rf = RandomForestClassifier(
    # parameters...
)

Regresja

from sklearn.ensemble import RandomForestRegressor

reg_rf = RandomForestRegressor(
    # parameters...
)

Parametry baggingu:

  • n_estimators
  • max_features
  • oob_score

Parametry drzewa:

  • max_depth
  • min_samples_split
  • min_samples_leaf
  • class_weight ("balanced")
Metody zespołowe w Pythonie

Kompromis bias-wariancja

Kompromis bias-wariancja

Metody zespołowe w Pythonie

Czas na ćwiczenia!

Metody zespołowe w Pythonie

Preparing Video For Download...