glmnet z niestandardową siatką dostrajania

Uczenie maszynowe z caret w R

Zach Mayer

Data Scientist at DataRobot and co-author of caret

Niestandardowe dostrajanie modeli glmnet

2 parametry dostrajania: alpha i lambda
Dla jednej wartości alpha wszystkie wartości lambda są dopasowywane jednocześnie
Wiele modeli za "cenę" jednego

Przykład: dostrajanie glmnet

# Make a custom tuning grid
myGrid <- expand.grid(
  alpha = 0:1, 
  lambda = seq(0.0001, 0.1, length = 10)
)

# Fit a model
set.seed(42)
model <- train(
  y ~ ., 
  overfit, 
  method = "glmnet", 
  tuneGrid = myGrid, 
  trControl = myControl
)

# Plot results
plot(model)

Wizualne porównanie modeli

Wykres liniowy ROC w zależności od parametru regularyzacji dla dwóch wartości współczynnika mieszania: 0 i 1. ROC jest maksymalne, gdy współczynnik mieszania wynosi 1, a parametr regularyzacji jest większy niż 0,1.

Pełna ścieżka regularyzacji

plot(model$finalModel)

Niestandardowy wykres liniowy dla modeli glmnet. Wiele linii współczynników w zależności od normy L1. Wraz ze wzrostem normy L1 zakres współczynników rozszerza się.

Czas na ćwiczenia!

Uczenie maszynowe z caret w R