MLOps 团队如何高效运作

面向业务的 MLOps

Arne Jonas Warnke

Head of Emerging Curriculum

机器学习影响有限(过去)

早期,企业对机器学习多采用试验式方法。

主要问题包括:

  • 职能割裂(信息孤岛)
  • 模型难以上线生产
  • 开发周期长
  • 自动化缺失或很弱
  • 可复现性不足

一位独自面对老式电脑的黑白照片

面向业务的 MLOps

MLOps 团队如何高效运作

$$

本视频将:

  • 降低对技术的强调
  • 关注成功的 DevOps 实践
面向业务的 MLOps

DevOps 回顾

DevOps 旨在:

  • 加强开发与运维的协作

开发关注

  • 提升用户体验
  • 新的业务需求

运维关注

  • 稳定性与可维护性

DevOps

1 Kim 等(2021)。The DevOps handbook: How to create world-class agility, reliability, & security in technology organizations. IT Revolution.
面向业务的 MLOps

常见 DevOps 实践

  • 持续交付
    • 频繁、小而可靠的代码发布
    • 如持续加入小特性(或代码变更)
  • 测试与发布自动化
  • 监控,便捷回滚
  • 持续集成

$$ 软件发布蓝图

1 Leite 等(2019)。A survey of DevOps concepts and challenges. ACM Computing Surveys (CSUR), 52(6), 1-35.
面向业务的 MLOps

应对故障

DevOps 循环 $$ 蓝屏

  • 反馈回路
    • 自动化测试
    • 及早发现故障
  • 出现问题时
    • 根因分析
    • 无责复盘
    • 学习与知识共享、持续改进
面向业务的 MLOps

人员与团队

MLOps/DevOps 核心在于协作

  • 各公司团队设计各异

$$

共同特征

  • 自主性
  • 目标与激励一致
  • 反馈回路与学习
  • 信任
  • 鼓励审慎试错与承担风险

$$ 协作的人们

面向业务的 MLOps

实验与验证

以实验驱动高质量

  • A/B 测试(随机试验)
  • 人为注入故障进行演练

$$ 实验室测试

面向业务的 MLOps

¡Vamos a practicar!

面向业务的 MLOps

Preparing Video For Download...