監控 ML 服務

MLOps 部署與生命週期

Nemanja Radojkovic

Senior Machine Learning Engineer

維持品質

• 付費客戶＝品質期待
• 品質保證始於品管
• 監控

效能指標

基本健康指標

• 服務是否正常運作？
• 一段時間內的請求數？
• 延遲分佈？

 

最終品質指標

• 預測效能

ML 模型如何劣化？

一起來練習吧！

MLOps 部署與生命週期