カスタムチューニングのglmnet

Rで学ぶ caret を使った Machine Learning

Zach Mayer

Data Scientist at DataRobot and co-author of caret

glmnet モデルをカスタムチューニング

  • チューニングは2つ: alpha と lambda
  • alpha を固定すると、すべての lambda を同時に学習
  • 1回で多くのモデルを取得
Rで学ぶ caret を使った Machine Learning

例: glmnet のチューニング

# Make a custom tuning grid
myGrid <- expand.grid(
  alpha = 0:1, 
  lambda = seq(0.0001, 0.1, length = 10)
)
# Fit a model
set.seed(42)
model <- train(
  y ~ ., 
  overfit, 
  method = "glmnet", 
  tuneGrid = myGrid, 
  trControl = myControl
)
# Plot results
plot(model)
Rで学ぶ caret を使った Machine Learning

モデルを視覚的に比較

ROC と正則化パラメータの線グラフ。混合率 0 と 1 を比較。混合率が 1、正則化パラメータ > 0.1 で ROC が最大。

Rで学ぶ caret を使った Machine Learning

正則化パス全体

plot(model$finalModel)

glmnet のカスタム線グラフ。係数 vs L1 ノルムの多くの線。L1 ノルムが増えると係数の幅が広がる。

Rで学ぶ caret を使った Machine Learning

練習しましょう!

Rで学ぶ caret を使った Machine Learning

Preparing Video For Download...