glmnet met eigen afstemmingsraster

Machine Learning met caret in R

Zach Mayer

Data Scientist at DataRobot and co-author of caret

Aangepaste tuning voor glmnet-modellen

2 tuningparameters: alpha en lambda
Voor één alpha worden alle lambda-waarden tegelijk gefit
Veel modellen voor de “prijs” van één

Voorbeeld: glmnet-tuning

# Maak een eigen afstemmingsraster
myGrid <- expand.grid(
  alpha = 0:1, 
  lambda = seq(0.0001, 0.1, length = 10)
)

# Fit een model
set.seed(42)
model <- train(
  y ~ ., 
  overfit, 
  method = "glmnet", 
  tuneGrid = myGrid, 
  trControl = myControl
)

# Plot resultaten
plot(model)

Modellen visueel vergelijken

De afbeelding toont een lijngrafiek van ROC tegenover regularisatieparameter voor twee mengpercentages: 0 en 1. De ROC is maximaal bij mengpercentage 1 en regularisatieparameter groter dan 0,1.

Volledig regularisatiepad

plot(model$finalModel)

De afbeelding toont een aangepaste lijngrafiek voor glmnet-modellen. Er zijn veel lijnen van coëfficiënten tegenover L1-norm. Naarmate de L1-norm toeneemt, wordt het bereik van coëfficiënten breder.

Laten we oefenen!

Machine Learning met caret in R