glmnet avec grille d'ajustement personnalisée

Machine Learning avec caret en R

Zach Mayer

Data Scientist at DataRobot and co-author of caret

Ajuster manuellement des modèles glmnet

2 hyperparamètres : alpha et lambda
Pour un seul alpha, toutes les valeurs de lambda sont ajustées en même temps
Plusieurs modèles pour le « prix » d'un seul

Exemple : ajustement de glmnet

# Make a custom tuning grid
myGrid <- expand.grid(
  alpha = 0:1, 
  lambda = seq(0.0001, 0.1, length = 10)
)

# Fit a model
set.seed(42)
model <- train(
  y ~ ., 
  overfit, 
  method = "glmnet", 
  tuneGrid = myGrid, 
  trControl = myControl
)

# Plot results
plot(model)

Comparer les modèles visuellement

L'image montre une courbe ROC en fonction du paramètre de régularisation pour deux valeurs du pourcentage de mélange : 0 et 1. La ROC est maximale quand le pourcentage de mélange est 1 et que le paramètre de régularisation est supérieur à 0,1.

Chemin complet de régularisation

plot(model$finalModel)

L'image montre un tracé personnalisé pour des modèles glmnet. Plusieurs lignes de coefficients en fonction de la norme L1. Quand la norme L1 augmente, l'intervalle des coefficients s'élargit.

Passons à la pratique !

Machine Learning avec caret en R