自動化、監控、事件回應模式

Fully Automated MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

什麼是軟體設計模式？

$$

對常見問題的通用、可重用解法…

$$

$$

自動化、監控、回應

$$

$$

• 提升我們設計之 ML 系統的可靠性

MLOps 中設計模式的三個例子

$$

1. 自動化模型再訓練
2. 模型回滾
3. 特徵補值

$$

1. 自動化模型再訓練

1. 自動化模型再訓練－執行預測

1. 自動化模型再訓練－監控

1. 自動化模型再訓練－觸發條件

1. 自動化模型再訓練－自動化 pipeline

1. 自動化模型再訓練－部署

2. 模型回滾

2. 模型回滾－驗證失敗

2. 模型回滾－最後可用模型

2. 模型回滾－重新部署

3. 特徵補值－資料密集型 pipeline

3. 特徵補值－資料品質

$$

$$

• 資料品質層次不一
• 有些特徵可能低於 QA 門檻

3. 特徵補值－瑕疵特徵

$$

$$

• 偵測失效特徵
• 套用特徵補值

3. 特徵補值－可能的修正

• 數值型

  $$

  • 平均值／中位數補值

  • KNN 補值

$$

• 類別型

  $$

• 最常見類別補值

• 新增「Missing」類別

一起來練習吧！

Fully Automated MLOps