參考架構:全自動 MLOps

Fully Automated MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

什麼是參考架構?

$$

參考架構是可用於不同 IT 領域設計解決方案的樣板。

一組文件,包含:

  • IT 元件的結構與整合
  • IT 系統常見的模式(含 ML 系統)

  • 匯聚業界經驗與最佳做法

Fully Automated MLOps

全自動 MLOps 架構

顯示全自動 MLOps 參考架構高階總覽的圖片。

1 https://cloud.google.com/architecture/mlops-continuous-delivery-and-automation-pipelines-in-machine-learning
Fully Automated MLOps

參考架構-實驗編排

顯示全自動 MLOps 參考架構高階總覽的圖片。畫面放大至一組相連方塊:由左至右為資料分析、實驗編排、原始碼、原始碼儲存庫。

Fully Automated MLOps

參考架構-原始碼與 CI

畫面左移。原始碼儲存庫之後,出現持續整合方塊。此方塊包含建置模組,輸出為套件。

Fully Automated MLOps

參考架構-成品與 CD

畫面下移以顯示持續交付方塊。

Fully Automated MLOps

參考架構-部署 ML 流水線

畫面左移,顯示自動化 ML 流水線的各步驟:資料擷取、資料驗證、資料準備、模型訓練、模型評估、模型驗證。

Fully Automated MLOps

參考架構-中繼資料儲存區

畫面下移,顯示中繼資料儲存區收集 ML 流水線產生的日誌。

Fully Automated MLOps

參考架構-模型登錄

畫面上移並向右,顯示 ML 流水線訓練出的模型被推送至模型登錄。

Fully Automated MLOps

參考架構-預測服務

畫面下移,顯示 ML 流水線訓練出的模型持續交付到架構中的預測服務模組。

Fully Automated MLOps

參考架構-持續監控

畫面左移,顯示效能監控元件,用來追蹤預測服務的表現。

Fully Automated MLOps

參考架構-自動觸發器

畫面進一步左移,顯示有一個觸發器元件連接到效能監控模組。

Fully Automated MLOps

參考架構-自動再訓練

畫面上移,顯示觸發器可啟動系統中的自動化 ML 流水線。

Fully Automated MLOps

參考架構

畫面縮小,顯示完整參考架構的高階總覽。

Fully Automated MLOps

參考架構-特徵儲存區

顯示全自動 MLOps 參考架構高階總覽的圖片。畫面放大至特徵儲存區元件。

Fully Automated MLOps

參考架構-特徵儲存區

畫面下移,顯示特徵儲存區也為系統中的過渡、預備、正式環境之自動化 ML 流水線提供資料。

Fully Automated MLOps

參考架構-特徵儲存區

畫面放大至特徵儲存區元件。此元件為實驗與開發環境中的實驗編排模組提供資料。

Fully Automated MLOps

參考架構-特徵儲存區

畫面放大至特徵儲存區元件。此元件為系統中的預測服務提供資料。

Fully Automated MLOps

全自動 MLOps 架構

顯示全自動 MLOps 參考架構高階總覽的圖片。

Fully Automated MLOps

一起來練習吧!

Fully Automated MLOps

Preparing Video For Download...