Tìm kiếm theo lưới và ngẫu nhiên với H2O

Tinh chỉnh siêu tham số trong R

Dr. Shirin Elsinghorst

Senior Data Scientist

Siêu tham số trong mô hình H2O

Siêu tham số cho Gradient Boosting:

?h2o.gbm

ntrees: Số cây. Mặc định 50.
max_depth: Độ sâu tối đa. Mặc định 5.
min_rows: Số quan sát (có trọng số) tối thiểu ở lá. Mặc định 10.
learn_rate: Tốc độ học (0.0–1.0). Mặc định 0.1.
learn_rate_annealing: Nhân tốc độ học với hệ số này sau mỗi cây (vd. 0.99 hoặc 0.999). Mặc định 1.

Chuẩn bị dữ liệu để mô hình hóa với H2O

Chuyển sang H2O Frame

seeds_data_hf <- as.h2o(seeds_data)

Xác định features và target

y <- "seed_type"
x <- setdiff(colnames(seeds_data_hf), y)

Chia dữ liệu thành train, test & validation

sframe <- h2o.splitFrame(data = seeds_data_hf, ratios = c(0.7, 0.15), seed = 42)
train <- sframe[[1]]
valid <- sframe[[2]]
test <- sframe[[3]]

Định nghĩa lưới siêu tham số

Siêu tham số GBM

gbm_params <- list(ntrees = c(100, 150, 200), max_depth = c(3, 5, 7), learn_rate = c(0.001, 0.01, 0.1))

Hàm h2o.grid

gbm_grid <- h2o.grid("gbm", 
                     grid_id = "gbm_grid",
                     x = x, 
                     y = y,
                     training_frame = train,
                     validation_frame = valid,
                     seed = 42,
                     hyper_params = gbm_params)

Xem kết quả với h2o.getGrid

Xem đối tượng lưới

Xem kết quả cho gbm_grid bằng h2o.getGrid.
Lấy kết quả lưới sắp theo độ chính xác validation

gbm_gridperf <- h2o.getGrid(grid_id = "gbm_grid", sort_by = "accuracy", decreasing = TRUE)

Grid ID: gbm_grid 
Used hyper parameters: 
  -  learn_rate 
  -  max_depth 
  -  ntrees 
Number of models: 27 
Number of failed models: 0 

Hyper-Parameter Search Summary: ordered by decreasing accuracy

Trích xuất mô hình tốt nhất từ lưới

Mô hình GBM đứng đầu theo độ chính xác validation có id ở vị trí 1

best_gbm <- h2o.getModel(gbm_gridperf@model_ids[[1]])

Đây là siêu tham số của mô hình tốt nhất:

print(best_gbm@model[["model_summary"]])

Model Summary: 
 number_of_trees number_of_internal_trees model_size_in_bytes min_depth
             200                      600              100961         2 
 max_depth mean_depth min_leaves max_leaves mean_leaves
         7    5.22667          3         10     8.38833

Trích xuất mô hình tốt nhất từ lưới

best_gbm là một đối tượng mô hình H2O thông thường và có thể dùng như vậy!

h2o.performance(best_gbm, test)

MSE: (Extract with `h2o.mse`) 0.04761904
RMSE: (Extract with `h2o.rmse`) 0.2182179
Logloss: (Extract with `h2o.loglos

Tìm kiếm ngẫu nhiên với H2O

Bên cạnh lưới siêu tham số, thêm tiêu chí tìm kiếm:

gbm_params <- list(ntrees = c(100, 150, 200),
                   max_depth = c(3, 5, 7),
                   learn_rate = c(0.001, 0.01, 0.1))

search_criteria <- list(strategy = "RandomDiscrete", 
                        max_runtime_secs = 60, 
                        seed = 42)

gbm_grid <- h2o.grid("gbm", 
                     grid_id = "gbm_grid",
                     x = x, y = y,
                     training_frame = train,
                     validation_frame = valid,
                     seed = 42,
                     hyper_params = gbm_params,
                     search_criteria = search_criteria)

search_criteria <- list(strategy = "RandomDiscrete", 
                        stopping_metric = "mean_per_class_error", 
                        stopping_tolerance = 0.0001, 
                        stopping_rounds = 6)

gbm_grid <- h2o.grid("gbm", x = x, y = y, training_frame = train, validation_frame = valid, 
                      seed = 42, hyper_params = gbm_params, search_criteria = search_criteria)

H2O Grid Details
================
Grid ID: gbm_grid 
Used hyper parameters: 
  -  learn_rate 
  -  max_depth 
  -  ntrees 
Number of models: 30 
Number of failed models: 0

Đến lúc thực hành!

Tinh chỉnh siêu tham số trong R