Kubernetes 上的 MLOps

Kubernetes 入門

Frank Heilmann

Platform Architect and Freelance Instructor

什麼是 MLOps？

  • 將機器學習模型部署到產品環境並維護的典範
  • 一套著重於持續開發這類模型的最佳實務流程
  • 受 DevOps 啟發：
    • 機器學習模型先在隔離的實驗系統中開發與測試，之後再部署到產品環境
    • 上線後持續監控；必要時觸發再訓練
  • 資料科學家、資料工程師與 IT 團隊可同步協作已部署的模型，確保模型準確度
Kubernetes 入門

在 Kubernetes 上實作 MLOps

  • MLOps 典範與 Kubernetes 高度契合：

    • 隔離的實驗系統：可用 Pods 與 Kubernetes Storage 實現
    • 監控產品環境的 ML 模型：透過 Pods 生命週期（與部署的映像版本）啟用
    • 針對模型準確度的同步協作：自 Kubernetes 架構一開始即內建

  • MLOps 有多種框架；兩個最知名的開源方案為

Kubernetes 入門

Kubeflow—概觀

Kubeflow 概觀

  • Kubeflow 可在 Kubernetes 上簡化 ML 工作流程的部署
  • 涵蓋 ML 模型生命週期的每一步
  • 由多個彼此獨立運作的元件組成，分別負責各步驟
  • 可用 Python 透過 API 開發並部署 ML 模型
    • 不必使用 kubectl
Kubernetes 入門

一起來練習吧！

Kubernetes 入門

Preparing Video For Download...