RandomizedSearchCV

Python में Model Validation

Kasey Jones

Data Scientist

हाइपरपैरामीटर का ग्रिड सर्च

कई हाइपरपैरामीटर के मान चुनते समय संभावित विकल्प एक ग्रिड बनाते हैं. इसे हाइपरपैरामीटर स्पेस कहते हैं.

ग्रिड सर्च जारी

फायदे:

हर संभव कॉम्बिनेशन टेस्ट करता है

कमियाँ:

अतिरिक्त हाइपरपैरामीटर से ट्रेनिंग समय घातीय रूप से बढ़ता है

बेहतर तरीके

रैंडम सर्च

from sklearn.model_selection import RandomizedSearchCV

random_search = RandomizedSearchCV()

Parameter Distribution:

param_dist = {"max_depth": [4, 6, 8, None],
              "max_features": range(2, 11),
              "min_samples_split": range(2, 11)}

रैंडम सर्च पैरामीटर

पैरामीटर:

estimator: उपयोग करने वाला मॉडल
param_distributions: हाइपरपैरामीटर और संभावित मानों की dictionary
n_iter: iterations की संख्या
scoring: उपयोग करने की स्कोरिंग विधि

RandomizedSearchCV पैरामीटर सेट करना

param_dist = {"max_depth": [4, 6, 8, None],
              "max_features": range(2, 11),
              "min_samples_split": range(2, 11)}

from sklearn.ensemble import RandomForestRegressor
from sklearn.metrics import make_scorer, mean_absolute_error

rfr = RandomForestRegressor(n_estimators=20, random_state=1111)
scorer = make_scorer(mean_absolute_error)

RandomizedSearchCV लागू

रैंडम सर्च सेटअप:

random_search =\
    RandomizedSearchCV(estimator=rfr,
                       param_distributions=param_dist,
                       n_iter=40,
                       cv=5)

मॉडल वैलिडेशन समझे बिना हाइपरपैरामीटर ट्यूनिंग नहीं कर सकते
मॉडल वैलिडेशन कई मॉडल और पैरामीटर सेट्स की तुलना करने देता है

RandomizedSearchCV लागू

रैंडम सर्च सेटअप:

random_search =\
    RandomizedSearchCV(estimator=rfr,
                       param_distributions=param_dist,
                       n_iter=40,
                       cv=5)

रैंडम सर्च पूरा करें:

random_search.fit(X, y)

कुछ उदाहरण देखते हैं!

Python में Model Validation