H2O के साथ ऑटोमैटिक machine learning

R में Hyperparameter Tuning

Dr. Shirin Elsinghorst

Senior Data Scientist

Automatic Machine Learning (AutoML)

एल्गोरिदम का ऑटोमैटिक ट्यूनिंग, हाइपरपैरामीटर के साथ

AutoML मॉडल ट्यूनिंग और ऑप्टिमाइज़ेशन को तेज़ और आसान बनाता है

AutoML को बस एक डेटासेट, टार्गेट वैरिएबल, और ट्रेनिंग के लिए समय या मॉडल-गिनती सीमा चाहिए

H2O में AutoML

AutoML तुलना करता है:

Generalized Linear Model (GLM)
(Distributed) Random Forest (DRF)
Extremely Randomized Trees (XRT)
Extreme Gradient Boosting (XGBoost)
Gradient Boosting Machines (GBM)
Deep Learning (fully-connected multi-layer artificial neural network)
Stacked Ensembles (सभी मॉडलों का, और प्रत्येक परिवार के सर्वश्रेष्ठ का)

GBM हाइपरपैरामीटर

histogram_type
ntrees
max_depth
min_rows
learn_rate
sample_rate
col_sample_rate
col_sample_rate_per_tree
min_split_improvement

Deep Learning हाइपरपैरामीटर

epochs
adaptivate_rate
activation
rho
epsilon
input_dropout_ratio
hidden
hidden_dropout_ratios

# Using h2o.automl function
automl_model <- h2o.automl(x = x, y = y,
                           training_frame = train,
                           validation_frame = valid,
                           max_runtime_secs = 60,
                           sort_metric = "logloss",
                           seed = 42)

चुने गए मेट्रिक (यहाँ "logloss") से रैंक किए गए सभी मॉडलों की लीडरबोर्ड लौटाता है

Slot "leader":
Model Details:
==============

H2OMultinomialModel: gbm
Model Summary: 
 number_of_trees number_of_internal_trees model_size_in_bytes min_depth
             189                      567               65728         1
 max_depth mean_depth min_leaves max_leaves mean_leaves
         5    2.96649          2          6     4.20988

AutoML लीडरबोर्ड देखना

lb <- automl_model@leaderboard

                                    model_id mean_per_class_error
1  GBM_grid_0_AutoML_20181029_144443_model_6           0.01851852
2 GBM_grid_0_AutoML_20181029_144443_model_30           0.02777778
3 GBM_grid_0_AutoML_20181029_144443_model_18           0.02777778
4  GBM_grid_0_AutoML_20181029_144443_model_9           0.03703704

डिफॉल्ट रूप से, लीडरबोर्ड 5-fold cross-validation पर निकाला जाता है।

https://docs.h2o.ai/h2o/latest-stable/h2o-docs/automl.html

AutoML लीडरबोर्ड से मॉडल निकालना

# List all models by model id
model_ids <- as.data.frame(lb)$model_id

 [1] "GBM_grid_0_AutoML_20181029_144443_model_6"       
 [3] "GBM_grid_0_AutoML_20181029_144443_model_18"         
[19] "XRT_0_AutoML_20181029_144443"
[20] "DRF_0_AutoML_20181029_144443"            
[24] "DeepLearning_0_AutoML_20181029_144443"                        
[41] "StackedEnsemble_BestOfFamily_0_AutoML_20181029_144443" 
[42] "StackedEnsemble_AllModels_0_AutoML_20181029_144443"

# Get the best model
aml_leader <- automl_model@leader

aml_leader फिर से एक साधारण H2O मॉडल ऑब्जेक्ट है और वैसा ही उपयोग किया जा सकता है!

अब आखिरी राउंड के अभ्यास के लिए तैयार हो जाइए!

R में Hyperparameter Tuning