全自动 MLOps 简介

Fully Automated MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

工业场景下的 MLOps

企业使用机器学习的常见目标是什么?

  • 开发利用数据的 ML 工具与产品,以
    • 更好服务客户
    • 优化流程

展示企业如何用 ML 提升内部流程或改进面向客户服务的图片。

Fully Automated MLOps

优化价值创造

公司目标是最大化利润

  • 机器学习可提升盈利能力
  • 通过分析成本与收入,可估算潜在利润
  • 部署合适数量的 ML 用例可带来利润

一幅曲线图。x 轴为 ML 项目数量,y 轴为项目产生的收入。曲线上升至约 6 个项目、约 2500 万收入处达平台期;之后收入下降且不再上升。

Fully Automated MLOps

软件开发中的成本

传统软件开发项目的预期成本:

  • 开发成本
  • 项目管理
  • UI/UX 设计
  • 质量保证
Fully Automated MLOps

软件开发中的技术债

技术债或设计债:

  • 由糟糕设计导致的返工成本

两位工程师站在一座建得很差的房子前。一个对另一个说:"我不明白为什么加个新窗户要花这么久。"

1 https://vincentdnl.com/drawings/
Fully Automated MLOps

ML 系统中的隐藏技术债

机器学习:"技术债的高息信用卡"[1]。

隐藏的技术债可能来自:

  1. 训练模型的数据
  2. 支撑系统的模型
  3. 系统使用的基础设施
  4. 系统的监控
1 https://research.google/pubs/pub43146/
Fully Automated MLOps

机器学习项目的成本

技术债会降低 ML 系统的利润: $$ $$

两幅图各有一条曲线。第一幅估算收入为 2500 万美元。第二幅收入降至 1000 万美元。

Fully Automated MLOps

技术债的高息信用卡

ML 系统复杂,易失控。

展示 ML 系统众多组件的图片。中心是少量 ML 代码。周围有配置、数据收集、数据验证、资源管理、服务基础设施、监控、分析工具、流程管理工具、特征提取。

Fully Automated MLOps

MLOps:最佳还款方式

如果 ML 是技术债的高息信用卡,MLOps 就是最佳还款方式。

MLOps 可包括:

  • 自动化测试
  • 自动化实验追踪
  • 自动化监控

以尽量降低技术债

Fully Automated MLOps

让我们来练习!

Fully Automated MLOps

Preparing Video For Download...