H2Oによる自動機械学習
R によるハイパーパラメータチューニング
Dr. Shirin Elsinghorst
Senior Data Scientist
自動機械学習（AutoML）
- ハイパーパラメータに加え、アルゴリズムを自動チューニング
- AutoMLでモデルのチューニングと最適化が速く・容易に
- AutoMLに必要なのは、データセット、目的変数、学習の時間またはモデル数の上限のみ
H2OのAutoML
AutoMLは以下を比較します
- 一般化線形モデル（GLM）
- （分散型）ランダムフォレスト（DRF）
- 極端ランダム化木（XRT）
- Extreme Gradient Boosting（XGBoost）
- 勾配ブースティング（GBM）
- ディープラーニング（全結合多層ニューラルネット）
- スタックドアンサンブル（全モデル／各系統の最良）
GBMのハイパーパラメータ
histogram_typentreesmax_depthmin_rowslearn_ratesample_ratecol_sample_ratecol_sample_rate_per_treemin_split_improvement
ディープラーニングのハイパーパラメータ
epochsadaptivate_rateactivationrhoepsiloninput_dropout_ratiohiddenhidden_dropout_ratios
# h2o.automl関数の使用
automl_model <- h2o.automl(x = x, y = y,
training_frame = train,
validation_frame = valid,
max_runtime_secs = 60,
sort_metric = "logloss",
seed = 42)
- すべてのモデルのリーダーボードを返し、選択した指標（ここでは"logloss"）で順位付けします
Slot "leader":
Model Details:
==============
H2OMultinomialModel: gbm
Model Summary:
number_of_trees number_of_internal_trees model_size_in_bytes min_depth
189 567 65728 1
max_depth mean_depth min_leaves max_leaves mean_leaves
5 2.96649 2 6 4.20988
AutoMLのリーダーボードを確認する
lb <- automl_model@leaderboard
model_id mean_per_class_error
1 GBM_grid_0_AutoML_20181029_144443_model_6 0.01851852
2 GBM_grid_0_AutoML_20181029_144443_model_30 0.02777778
3 GBM_grid_0_AutoML_20181029_144443_model_18 0.02777778
4 GBM_grid_0_AutoML_20181029_144443_model_9 0.03703704
- 既定では、リーダーボードは5分割交差検証で算出されます。
AutoMLのリーダーボードからモデルを取り出す
# model idで全モデルを一覧
model_ids <- as.data.frame(lb)$model_id
[1] "GBM_grid_0_AutoML_20181029_144443_model_6"
[3] "GBM_grid_0_AutoML_20181029_144443_model_18"
[19] "XRT_0_AutoML_20181029_144443"
[20] "DRF_0_AutoML_20181029_144443"
[24] "DeepLearning_0_AutoML_20181029_144443"
[41] "StackedEnsemble_BestOfFamily_0_AutoML_20181029_144443"
[42] "StackedEnsemble_AllModels_0_AutoML_20181029_144443"
# 最良モデルを取得
aml_leader <- automl_model@leader
aml_leaderは通常のH2Oモデルオブジェクトで、そのまま扱えます。
最後の演習に向けて準備しましょう！
R によるハイパーパラメータチューニング
