caret के साथ हाइपरपैरामीटर ट्यूनिंग

R में Hyperparameter Tuning

Dr. Shirin Elsinghorst

Senior Data Scientist

caret में ऑटोमैटिक हाइपरपैरामीटर ट्यूनिंग

Random Forest 

...

Resampling results across tuning parameters:

  mtry  Accuracy   Kappa    
   2    0.9006783  0.8015924
   6    0.9126645  0.8253289
  10    0.8999389  0.7999386

Accuracy का सबसे बड़ा मान लेकर सर्वोत्तम मॉडल चुना गया.
मॉडल के लिए अंतिम मान mtry = 6 इस्तेमाल हुआ.

हाइपरपैरामीटर मॉडल एल्गोरिदम-विशिष्ट होते हैं

modelLookup(model)
https://topepo.github.io/caret/available-models.html

Support Vector Machines (SVM) में हाइपरपैरामीटर

fitControl <- trainControl(method = "repeatedcv", number = 3, repeats = 5)

tic()
svm_model <- train(diagnosis ~ ., 
                   data = bc_train_data, 
                   method = "svmPoly", 
                   trControl = fitControl,
                   verbose= FALSE)
toc()

3.836 sec elapsed

Support Vector Machines (SVM) में हाइपरपैरामीटर

svm_model

Support Vector Machines with Polynomial Kernel 
... 

Resampling results across tuning parameters:

  degree  scale  C     Accuracy   Kappa    
  1       0.100  1.00  0.9104803  0.8211459

Accuracy का सबसे बड़ा मान लेकर सर्वोत्तम मॉडल चुना गया.
मॉडल के लिए अंतिम मान degree = 1, scale = 0.1 और C = 1 रहे.

ऑटो ट्यूनिंग के लिए हाइपरपैरामीटर तय करना

tuneLength

tic()
set.seed(42)
svm_model_2 <- train(diagnosis ~ ., 
                     data = bc_train_data, 
                     method = "svmPoly", 
                     trControl = fitControl,
                     verbose = FALSE,
                     tuneLength = 5)
toc()

7.458 sec elapsed

Accuracy का सबसे बड़ा मान लेकर सर्वोत्तम मॉडल चुना गया.
मॉडल के लिए अंतिम मान degree = 1, scale = 1 और C = 1 रहे.

caret में मैनुअल हाइपरपैरामीटर ट्यूनिंग

tuneGrid + expand.grid

hyperparams <- expand.grid(degree = 4, scale = 1, C = 1)

tic()
set.seed(42)
svm_model_3 <- train(diagnosis ~ ., 
                     data = bc_train_data, 
                     method = "svmPoly", 
                     trControl = fitControl,
                     tuneGrid = hyperparams,
                     verbose = FALSE)
toc()

0.691 sec elapsed

caret में मैनुअल हाइपरपैरामीटर ट्यूनिंग

svm_model_3

Support Vector Machines with Polynomial Kernel 

...

  Accuracy   Kappa   
  0.7772947  0.554812

Tuning parameter 'degree' को 4 पर स्थिर रखा गया
Tuning parameter 'scale' को 1 पर स्थिर रखा गया
Tuning parameter 'C' को
 1 पर स्थिर रखा गया

अब आपकी बारी!

R में Hyperparameter Tuning