RandomizedSearchCV
Validarea modelelor în Python
Kasey Jones
Data Scientist
Căutarea în grilă a hiperparametrilor
Căutarea în grilă - continuare
Avantaje:
- Testează fiecare combinație posibilă
Dezavantaje:
- Hiperparametrii suplimentari cresc exponențial timpul de antrenare
Metode mai eficiente
Căutare aleatoare
from sklearn.model_selection import RandomizedSearchCV
random_search = RandomizedSearchCV()
Distribuția parametrilor:
param_dist = {"max_depth": [4, 6, 8, None],
"max_features": range(2, 11),
"min_samples_split": range(2, 11)}
Parametrii căutării aleatoare
Parametri:
estimator: modelul utilizatparam_distributions: dicționar cu hiperparametri și valorile posibilen_iter: numărul de iterațiiscoring: metoda de evaluare utilizată
Setarea parametrilor RandomizedSearchCV
param_dist = {"max_depth": [4, 6, 8, None],
"max_features": range(2, 11),
"min_samples_split": range(2, 11)}
from sklearn.ensemble import RandomForestRegressor
from sklearn.metrics import make_scorer, mean_absolute_error
rfr = RandomForestRegressor(n_estimators=20, random_state=1111)
scorer = make_scorer(mean_absolute_error)
RandomizedSearchCV implementat
Configurarea căutării aleatoare:
random_search =\
RandomizedSearchCV(estimator=rfr,
param_distributions=param_dist,
n_iter=40,
cv=5)
- Optimizarea hiperparametrilor necesită validarea modelului
- Validarea modelului permite compararea mai multor modele și seturi de parametri
RandomizedSearchCV implementat
Configurarea căutării aleatoare:
random_search =\
RandomizedSearchCV(estimator=rfr,
param_distributions=param_dist,
n_iter=40,
cv=5)
Finalizarea căutării aleatoare:
random_search.fit(X, y)
Să explorăm câteva exemple!
Validarea modelelor în Python
