MLOps 的最佳實務與常見陷阱

商務 MLOps

Arne Jonas Warnke

Head of Emerging Curriculum

本段重點

$$

MLOps

• 最佳實務
• 需避免的 陷阱

$$

設計 MLOps 應用的最佳實務

$$

• 先把重點放在取得 更好的資料
  • 而非更好的模型
  • 採用 資料為中心 方法

$$

• 先從 商業問題 出發
  • 若可行性不明，考慮做 PoC
  • 及早評估可能瓶頸
  • 就算_失敗_也要確保有收穫

$$

基礎架構

$$

與 基礎架構 相關的 最佳實務

• 計算需求會波動
  • 訓練期間特別高
  • 架構需事先因應
• 留意相關成本

$$

模型相關的最佳實務

$$

以下是從 MLOps 觀點的最佳實務：

• 從簡單模型開始
  • 快速開發，可作為基準
  • 較易理解

新增模型時：

• 是否優於現況？

$$

測試

$$

自動化測試

涵蓋整個生命週期

• 程式碼
• 模型
• 資料品質
• 完整 pipeline

程式碼品質與可重現性

$$

所有結果需

• 可理解
• 可重現

=> 測試程式碼品質

$$

知識傳承

$$

版本控管

• 模型與程式碼
• （儲存）資料

維持 文化：

• 文件化
• 乾淨程式碼
• 知識傳承

$$

文件化洞見

$$

記錄所學

• 就算不會進入最終應用也要記錄

$$

營運相關的最佳實務

$$

自動化

• 日誌
• 監控 實務

$$

團隊需受訓

• 能對錯誤 快速因應

$$

• 持續監控／- 持續訓練

$$

一起來練習吧！

商務 MLOps