導入全自動化與 MLOps 最佳實務

Fully Automated MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

MLOps 生命週期

MLOps 生命週期示意圖。三個相連的循環，從左到右為：Design、Development、Deployment。

Fully Automated MLOps

MLOps 的成熟度等級

$$

成熟度等級包含：

  • 手動 ML 工作流程

  • 半自動 ML 工作流程

  • 全自動 ML 工作流程

Fully Automated MLOps

手動 ML 工作流程－臨時試驗

示意圖：模型以手動流程從開發交付到正式環境。

Fully Automated MLOps

半自動 ML 工作流程

資料被送入受編排的實驗流程管線。

Fully Automated MLOps

半自動 ML 工作流程

在前圖基礎上加入：將程式碼推送到原始碼儲存庫，以及提供資料的特徵儲存。

Fully Automated MLOps

半自動 ML 工作流程

在前圖基礎上加入部署元件。這會在架構中部署自動化 ML 流水線，並將自動化流程產生的中繼資料送至 ML 中繼資料儲存。

Fully Automated MLOps

半自動 ML 工作流程

進一步擴充架構：自動化流程產出的模型推送到模型登錄，再交付到模型服務模組；模型服務模組連接到預測服務。

Fully Automated MLOps

半自動 ML 工作流程

架構中的預測服務模組連到效能監控元件，進而連到自動觸發器；自動觸發器可啟動系統中的自動化流程。

Fully Automated MLOps

全自動 ML 工作流程

全自動化 MLOps 參考架構的高層概觀圖。

Fully Automated MLOps

ML 生命週期的自動化－設計

表格說明：設計與規劃階段的活動無法自動化。

良好作法：

  • 套用可重現流程
  • 撰寫完整文件
Fully Automated MLOps

ML 生命週期的自動化－開發

表格說明：開發階段的活動並非全可自動化。

良好作法：

  • 記住我們在開發軟體
  • 使用版本控制
  • 使用編排工具
Fully Automated MLOps

ML 生命週期的自動化－營運

表格說明：營運階段的活動大多可自動化。

使用：

  • 自動化測試
  • CI/CD/CT/CM
Fully Automated MLOps

一起來練習吧！

Fully Automated MLOps

Preparing Video For Download...