RandomizedSearchCV
Validasi Model di Python
Kasey Jones
Data Scientist
Grid search untuk hiperparameter
Grid search lanjutan
Manfaat:
- Menguji semua kombinasi yang mungkin
Kekurangan:
- Hiperparameter tambahan menaikkan waktu latih secara eksponensial
Metode yang lebih baik
Pencarian acak
from sklearn.model_selection import RandomizedSearchCV
random_search = RandomizedSearchCV()
Distribusi Parameter:
param_dist = {"max_depth": [4, 6, 8, None],
"max_features": range(2, 11),
"min_samples_split": range(2, 11)}
Parameter pencarian acak
Parameter:
estimator: model yang digunakanparam_distributions: kamus hiperparameter dan nilai yang mungkinn_iter: jumlah iterasiscoring: metode penilaian yang digunakan
Menetapkan parameter RandomizedSearchCV
param_dist = {"max_depth": [4, 6, 8, None],
"max_features": range(2, 11),
"min_samples_split": range(2, 11)}
from sklearn.ensemble import RandomForestRegressor
from sklearn.metrics import make_scorer, mean_absolute_error
rfr = RandomForestRegressor(n_estimators=20, random_state=1111)
scorer = make_scorer(mean_absolute_error)
RandomizedSearchCV diimplementasikan
Mempersiapkan pencarian acak:
random_search =\
RandomizedSearchCV(estimator=rfr,
param_distributions=param_dist,
n_iter=40,
cv=5)
- Tidak dapat menyetel hiperparameter tanpa memahami validasi model
- Validasi model memungkinkan kita membandingkan banyak model dan set parameter
RandomizedSearchCV diimplementasikan
Mempersiapkan pencarian acak:
random_search =\
RandomizedSearchCV(estimator=rfr,
param_distributions=param_dist,
n_iter=40,
cv=5)
Selesaikan pencarian acak:
random_search.fit(X, y)
Mari lihat beberapa contoh!
Validasi Model di Python
