Đăng ký mô hình với MLflow

Thiết kế Pipeline Dự báo cho Môi trường Production

Rami Krispin

Senior Manager, Data Science and Engineering

Khởi chạy giao diện MLflow

mlflow ui

Kết quả terminal hiển thị máy chủ MLflow khởi động trên cổng 5000

Thiết kế Pipeline Dự báo cho Môi trường Production

Khởi chạy giao diện MLflow

Thiết kế Pipeline Dự báo cho Môi trường Production

Phân tích kết quả backtesting

Giao diện MLflow

Thiết kế Pipeline Dự báo cho Môi trường Production

Phân tích kết quả backtesting

Giao diện MLflow - phần Experiments được tô sáng, với tùy chọn Default và ml_forecast

Thiết kế Pipeline Dự báo cho Môi trường Production

Phân tích kết quả backtesting

Giao diện MLflow với tên các lần chạy được tô sáng

Thiết kế Pipeline Dự báo cho Môi trường Production

Phân tích kết quả backtesting

Giao diện MLflow với tùy chọn Group By được tô sáng

Thiết kế Pipeline Dự báo cho Môi trường Production

Phân tích kết quả backtesting

Giao diện MLflow với danh sách các lần chạy

Thiết kế Pipeline Dự báo cho Môi trường Production

Phân tích kết quả backtesting

Giao diện MLflow với đồ thị hiệu suất theo RMSE, MAPE và Coverage cho từng mô hình

Thiết kế Pipeline Dự báo cho Môi trường Production

Phân tích kết quả backtesting

Giao diện MLflow với biểu đồ hộp phân bố điểm RMSE của mô hình

Thiết kế Pipeline Dự báo cho Môi trường Production

Có thể cải thiện hiệu suất không?

Đánh giá mô hình

  • So sánh chuẩn
  • Phân tích phần dư
  • Phân tích backtesting

 

Hướng cải thiện

  • Mô hình khác
  • Đặc trưng mới
  • Tinh chỉnh tham số

Giao diện MLflow với biểu đồ hộp phân bố điểm RMSE của mô hình

Thiết kế Pipeline Dự báo cho Môi trường Production

Có thể cải thiện hiệu suất không?

Tối ưu mô hình

  • So sánh chuẩn
  • Phân tích phần dư
  • Phân tích backtesting

 

Hướng cải thiện

  • Mô hình khác
  • Đặc trưng mới
  • Tinh chỉnh tham số

Giao diện MLflow với biểu đồ hộp phân bố điểm RMSE của mô hình - LightGBM được tô sáng

Thiết kế Pipeline Dự báo cho Môi trường Production

Tinh chỉnh tham số

Các siêu tham số LightGBM đã dùng

Thiết kế Pipeline Dự báo cho Môi trường Production

Tinh chỉnh tham số

Các siêu tham số LightGBM với learning_rate và n_estimates được tô sáng

Thiết kế Pipeline Dự báo cho Môi trường Production

Giả thuyết

  • Giảm learning rate
  • Tăng số cây huấn luyện
 ml_models2 = {
    "lightGBM1": LGBMRegressor(n_estimators = 100, learning_rate= 0.1),
    "lightGBM2": LGBMRegressor(n_estimators = 250, learning_rate= 0.1),
    "lightGBM3": LGBMRegressor(n_estimators = 500, learning_rate= 0.1),
    "lightGBM4": LGBMRegressor(n_estimators = 100, learning_rate= 0.05),
    "lightGBM5": LGBMRegressor(n_estimators = 250, learning_rate= 0.05),
    "lightGBM6": LGBMRegressor(n_estimators = 500, learning_rate= 0.05),
}
Thiết kế Pipeline Dự báo cho Môi trường Production

Phân tích kết quả

Giao diện MLflow hiển thị hiệu suất mô hình với các siêu tham số khác nhau

Thiết kế Pipeline Dự báo cho Môi trường Production

Ràng buộc thí nghiệm

Vòng đời thí nghiệm và triển khai: train, test, evaluate, deploy, monitor, re-tune, repeat

Thiết kế Pipeline Dự báo cho Môi trường Production

Ayo berlatih!

Thiết kế Pipeline Dự báo cho Môi trường Production

Preparing Video For Download...