Kubernetes 上的 MLOps

Kubernetes 入门

Frank Heilmann

Platform Architect and Freelance Instructor

什么是 MLOps？

  • 在生产环境中部署与维护机器学习模型的范式
  • 一套最佳实践流程，重点在模型的持续迭代
  • 源于 DevOps：
    • 模型先在隔离的实验系统中开发与测试，再部署到生产
    • 进入生产后持续监控；可触发再训练
  • 数据科学家、数据工程师与 IT 团队可同步协作已部署模型，确保准确性
Kubernetes 入门

在 Kubernetes 上实现 MLOps

  • MLOps 与 Kubernetes 高度契合：

    • 隔离的实验系统：可用 Pod 与 Kubernetes 存储实现
    • 生产模型监控：借助 Pod 生命周期（与镜像版本）实现
    • 针对模型准确性的同步协作：Kubernetes 架构自带支持

  • 有多种 MLOps 框架；两款最知名的开源方案是

Kubernetes 入门

Kubeflow 概览

Kubeflow 概览

  • Kubeflow 可在 Kubernetes 上便捷部署 ML 工作流
  • 覆盖模型全生命周期各环节
  • 由多个可独立工作的组件构成
  • 可用 Python 通过 API 开发并部署模型
    • 无需使用 kubectl
Kubernetes 入门

让我们来练习！

Kubernetes 入门

Preparing Video For Download...