模型部署策略

MLOps 部署與生命週期

Nemanja Radojkovic

Senior Machine Learning Engineer

部署成功!

  • ML 應用已上線
  • API 每小時處理上千個請求
  • 一個月後:
    • 發現更好的特徵
    • 收集新一批訓練資料
    • 重新執行模型建置 pipeline
    • 產生新的模型套件
MLOps 部署與生命週期

交換

MLOps 部署與生命週期

離線預測

MLOps 部署與生命週期

變更時間窗

MLOps 部署與生命週期

即時停機

MLOps 部署與生命週期

高昂停機

MLOps 部署與生命週期

blue green 設定

MLOps 部署與生命週期

一鍵切換

MLOps 部署與生命週期

blue green 術語

MLOps 部署與生命週期

優缺點

MLOps 部署與生命週期

回滾

MLOps 部署與生命週期

金絲雀部署

MLOps 部署與生命週期

請求分流

MLOps 部署與生命週期

步驟二

MLOps 部署與生命週期

最終結果

MLOps 部署與生命週期

MLOps 部署與生命週期

驗證

MLOps 部署與生命週期

缺點

MLOps 部署與生命週期

風險緩解

MLOps 部署與生命週期

一起來練習吧!

MLOps 部署與生命週期

Preparing Video For Download...