監控、再訓練與更換 MLOps 應用程式

商務 MLOps

Arne Jonas Warnke

Head of Emerging Curriculum

營運機器學習模型

$$

部署前（Pre-deployment）

$$

部署前（Pre-deployment）

• 確保模型在各環境產生相同結果
  • 包含 containerization
• 額外檢查
  • 安全性

$$

通常由

• Software engineer 或 machine learning engineer 負責

$$

部署 MLOps 應用程式

$$

部署 MLOps 應用程式

部署（透過 CI/CD）

• 大多可自動化
• 由多種（自動化）測試組成
• 可快速回滾變更

$$

同樣通常由

• Software engineer 或 machine learning engineer 負責

$$

監控 MLOps 應用程式

監控 MLOps 應用程式

模型現已上線，且

• 產生商業價值
• 停機與問題代價高
• 需緊密監控
  • 多半自動化

若模型失敗

• 可能需要不同角色介入

注意模型品質會隨時間惡化。

$$

再訓練機器學習模型

再訓練機器學習模型

模型效能通常會下降

• 經濟情勢變化
• 客戶偏好改變

因此需要定期對模型進行再訓練

• 可部分自動化

主要由

• Data scientist／machine learning engineer 負責

$$

一起來練習吧！

商務 MLOps