glmnet com grade de ajuste personalizada

Machine Learning com caret em R

Zach Mayer

Data Scientist at DataRobot and co-author of caret

Ajuste personalizado de modelos glmnet

2 hiperparâmetros: alpha e lambda
Para um único alpha, todos os valores de lambda são ajustados ao mesmo tempo
Muitos modelos pelo "preço" de um

Exemplo: ajuste do glmnet

# Criar uma grade de ajuste personalizada
myGrid <- expand.grid(
  alpha = 0:1, 
  lambda = seq(0.0001, 0.1, length = 10)
)

# Ajustar um modelo
set.seed(42)
model <- train(
  y ~ ., 
  overfit, 
  method = "glmnet", 
  tuneGrid = myGrid, 
  trControl = myControl
)

# Plotar resultados
plot(model)

Compare modelos visualmente

A imagem mostra um gráfico de linhas da curva ROC versus parâmetro de regularização para dois valores da porcentagem de mistura: 0 e 1. A ROC é maximizada quando a porcentagem de mistura é 1 e o parâmetro de regularização é maior que 0,1.

Caminho completo de regularização

plot(model$finalModel)

A imagem mostra um gráfico de linhas personalizado para modelos glmnet. Há muitas linhas de coeficientes versus norma L1. Conforme a norma L1 aumenta, a faixa de coeficientes fica mais ampla.

Vamos praticar!

Machine Learning com caret em R