持續整合與持續部署（CI/CD）

端到端機器學習

Joshua Stapleton

Machine Learning Engineer

ML 生命週期中的 CI/CD

機器學習生命週期的部署階段

端到端機器學習

CI/CD 原則

持續整合（CI）

  • 定期合併至中央版本庫
  • 常搭配自動化測試以找出錯誤

以持續更新雲端呈現的持續整合

持續部署（CD）

  • 自動將程式碼更新部署到生產環境
  • 常與 CI 結合

以火箭呈現的持續部署

端到端機器學習

機器學習中的 CI/CD

CI/CD 對生產與迭代至關重要

  • 例如：自動納入新病患資料
  • 有助於避免資料漂移

 

ML 中的 CI/CD：

  • 定期重新訓練模型
  • 測試效能
  • 自動化、規則式部署
端到端機器學習

使用 AWS Elastic Beanstalk 的 CI/CD

AWS Elastic Beanstalk（EB）：

  • 由 AWS 全面代管的應用與服務部署、擴展
  • 安裝 EB
eb init


eb create heart_disease_env


eb deploy


eb open
端到端機器學習

EB 的替代方案（1）

Azure Machine Learning：

  • 即時評分服務
  • 受管訓練運算資源
  • 生產環境效能監控
端到端機器學習

EB 的替代方案（2）

GCP App Engine：

  • 與 AWS EB 或 Azure Machine Learning 類似的替代方案
端到端機器學習

EB 的替代方案（3）

Kubernetes：

  • 開源容器編排系統
  • 自動化部署、擴展、管理容器化應用
  • 相容多家主流雲端平台
  • 學習門檻較高，但可控性更強
端到端機器學習

EB 的替代方案（4）

還有更多選擇！

端到端機器學習

一起來練習吧！

端到端機器學習

Preparing Video For Download...