全自動化 MLOps 入門

Fully Automated MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

產業情境中的 MLOps

公司在採用機器學習時的常見目標是什麼？

  • 開發運用資料的 ML 工具與產品以
    • 更好服務顧客
    • 最佳化流程

一張圖示說明公司可用機器學習系統來強化內部流程，或提升面向顧客的服務。

Fully Automated MLOps

為價值產生做最佳化

公司目標是利潤最大化

  • 機器學習可用來提高獲利
  • 透過分析成本與營收，可估計潛在利潤
  • 部署適量的 ML 應用案例可帶來利潤

一張曲線圖。x 軸：機器學習專案數量；y 軸：專案產生的營收。曲線上升後在 6 個專案、約 2,500 萬營收達到平臺；之後營收下降且未再回升。

Fully Automated MLOps

軟體開發的成本

傳統軟體開發專案的預期成本：

  • 開發成本
  • 專案管理
  • UI/UX 設計
  • 品質保證
Fully Automated MLOps

軟體開發中的技術債

技術債或設計債：

  • 由於設計不良導致的返工成本

兩位工程師站在一棟蓋得很糟的房子前。其中一位對另一位說：「我不懂為什麼加一扇新窗要花這麼久。」

1 https://vincentdnl.com/drawings/
Fully Automated MLOps

ML 系統中的隱性技術債

機器學習：「技術債的高利率信用卡」[1]。

隱性技術債可能與以下有關：

  1. 用於訓練 ML 模型的資料
  2. 支撐 ML 系統的模型
  3. ML 系統使用的基礎設施
  4. ML 系統的監控
1 https://research.google/pubs/pub43146/
Fully Automated MLOps

機器學習專案的成本

ML 系統技術債導致的利潤下降： $$ $$

兩個圖各有一條曲線。第一個圖估計營收為 $25M。第二個圖中，營收降至 $10M。

Fully Automated MLOps

技術債的高利率信用卡

ML 系統可能很複雜，且難以掌控。

一張圖示出 ML 系統中的眾多元件。ML 程式碼是中央的一小塊。周圍包含設定、資料收集、資料驗證、機器資源管理、服務基礎設施、監控、分析工具、流程管理工具、特徵擷取等。

Fully Automated MLOps

MLOps：最佳還款方式

若 ML 是技術債的高利率信用卡，MLOps 就是最好的還款方式。

MLOps 可包含：

  • 自動化測試
  • 自動化實驗追蹤
  • 自動化監控

以將技術債降到最低

Fully Automated MLOps

一起來練習吧！

Fully Automated MLOps

Preparing Video For Download...