生命週期階段

MLOps 部署與生命週期

Nemanja Radojkovic

Senior Machine Learning Engineer

Machine Learning 生命週期

 

  1. ML 專案生命週期
  2. ML 應用生命週期
  3. ML 模型生命週期
MLOps 部署與生命週期

ML project bare

MLOps 部署與生命週期

ML project with outcomes

MLOps 部署與生命週期

pure estimator

MLOps 部署與生命週期

ml application

MLOps 部署與生命週期

business rules

MLOps 部署與生命週期

database

MLOps 部署與生命週期

graphical user interface

MLOps 部署與生命週期

API

MLOps 部署與生命週期

model and app together

MLOps 部署與生命週期

locked in model

MLOps 部署與生命週期

separation I

MLOps 部署與生命週期

fly away

MLOps 部署與生命週期

separate timelines

MLOps 部署與生命週期

app life cycle

MLOps 部署與生命週期

model life cycle

MLOps 部署與生命週期

we are here

MLOps 部署與生命週期

模型是…

不是 抽象或理論

模型就是

  • 具體、已訓練的模型
  • 可立即投入使用
MLOps 部署與生命週期

部署

 

  • 模型物件 + 部署資源 = 模型部署套件
  • 讓模型上線使用 = 部署

 

deployment race start

MLOps 部署與生命週期

模型監控

 

  • 模型伺服器是否執行中?
  • 模型輸入與輸出是否符合預期?
  • 亦稱為 部署後監控

 

model monitoring

MLOps 部署與生命週期

退役(下線)

 

power off

 

可能原因

  • 發現更好的模型
  • 建立了更具資訊性的特徵
  • 被建模的流程改變,現有模型失效

 

=> 去舊迎新

MLOps 部署與生命週期

模型封存

  • 在受監管產業很重要。

    為何你的信用風險模型在 2020 年核准了這筆貸款?

 

  • 可重現性:能重建、重新載入並使用模型的舊版本
    • 不是件容易的事

 

model archive

MLOps 部署與生命週期

一起來練習吧!

MLOps 部署與生命週期

Preparing Video For Download...