glmnet із власною сіткою налаштування

Machine Learning з пакетом caret в R

Zach Mayer

Data Scientist at DataRobot and co-author of caret

Кастомне налаштування моделей glmnet

2 параметри налаштування: alpha та lambda
Для одного alpha всі значення lambda оцінюються одночасно
Багато моделей за «ціною» однієї

Приклад: налаштування glmnet

# Make a custom tuning grid
myGrid <- expand.grid(
  alpha = 0:1, 
  lambda = seq(0.0001, 0.1, length = 10)
)

# Fit a model
set.seed(42)
model <- train(
  y ~ ., 
  overfit, 
  method = "glmnet", 
  tuneGrid = myGrid, 
  trControl = myControl
)

# Plot results
plot(model)

Візуальне порівняння моделей

Зображення показує лінійний графік ROC проти параметра регуляризації для двох значень частки змішування: 0 і 1. ROC максимальний, коли частка змішування дорівнює 1, а параметр регуляризації більший за 0,1.

Повний шлях регуляризації

plot(model$finalModel)

Зображення показує спеціальний лінійний графік для моделей glmnet. Є багато ліній коефіцієнтів залежно від L1-норми. Із зростанням L1-норми діапазон коефіцієнтів розширюється.

Давайте потренуємось!

Machine Learning з пакетом caret в R