現代 MLOps 架構

MLOps 部署與生命週期

Nemanja Radojkovic

Senior Machine Learning Engineer

關於我

 

 

• 資深機器學習工程師
• 具備在產品環境中開發、部署、維運機器學習模型的經驗
• 目前重點：ML 部署與生命週期管理

¹ www.linkedin.com/in/radojkovic

觀念型課程

會學到： 高層次理解

不涵蓋： 動手實作技能

MLOps

Machine Learning Operations

• 原則
• 作法
• 工具

目標：ML 工作流程與服務

• 自動化
• 可重現
• 已整合

第 1 章

MLOps 的價值與必要性

模型生命週期階段

 

MLOps 架構的組成元件

沒有 Ops 的 ML 成本很高

 

常見起點

• 手動 ML 工作流程
• 手動部署
• 臨時監控

 

=> 技術債累積

技術債

由於現在選擇較容易（但受限）的方案，而非花更久時間採用更佳作法，所造成的額外返工隱含成本

~ Wikipedia[1]

 

Google 著名相關論文：

"Machine Learning: The high-interest credit card of technical debt"[2]

 

投入時間與部署模型愈多

• 技術債與模型風險愈高
• 流程更慢、更挫折、錯誤率更高
• 交付價值的能力受損

¹ https://en.wikipedia.org/wiki/Technical_debt ² https://research.google/pubs/pub43146/

ML 工作流程

• 資料收集與準備
• 資料標註
• 模型選擇
• 模型訓練
• 模型封裝
• 模型部署
• 模型監控與維護

 

ML 工作流程自動化 == MLOps 成熟度

落實 MLOps 後

• 自動化
• 快速
• 可重現
• 可解釋

接下來！

 

模型生命週期管理

MLOps 架構

一起來練習吧！

MLOps 部署與生命週期