MLOps 團隊如何成功運作

商務 MLOps

Arne Jonas Warnke

Head of Emerging Curriculum

機器學習影響有限（過去）

早期，企業對機器學習多採實驗性做法。

常見問題包括：

  • 孤島化
  • 模型常無法上線到生產
  • 開發時間冗長
  • 自動化缺乏或很少
  • 難以重現

一位站在 1980 年代電腦前的黑白照片

商務 MLOps

MLOps 團隊如何成功運作

$$

本段重點

  • 少談技術細節
  • 觀察成功的 DevOps 做法
商務 MLOps

DevOps 複習

DevOps 目標：

  • 強化開發與維運的協作

開發重點在於

  • 提升使用者體驗
  • 因應新業務需求

維運重視

  • 穩定性與可維護性

DevOps

1 Kim 等（2021）。The DevOps handbook: How to create world-class agility, reliability, & security in technology organizations。IT Revolution。
商務 MLOps

常見 DevOps 作法

  • 持續交付
    • 頻繁、小幅且可靠的程式碼釋出
    • 例如持續加入小功能（或程式碼更動）
  • 測試與釋出自動化
  • 監控與容易「回滾」
  • 持續整合

$$ 軟體釋出的藍圖

1 Leite 等（2019）。A survey of DevOps concepts and challenges。ACM Computing Surveys (CSUR), 52(6), 1-35。
商務 MLOps

處理失敗

DevOps 循環 $$ 藍色錯誤畫面

  • 回饋循環
    • 自動化測試
    • 及早發現失敗
  • 若發生問題
    • 追查根因
    • 免責事後檢討
    • 持續學習與知識分享
商務 MLOps

人才與團隊

MLOps／DevOps 核心在協作

  • 公司會有不同的團隊設計

$$

共同特徵包括

  • 自主性
  • 共同誘因
  • 回饋循環與學習
  • 信任
  • 鼓勵承擔風險

$$ 協作中的人們

商務 MLOps

實驗驅動

以實驗追求高品質

  • A/B 測試（隨機化實驗）
  • 人為注入故障

$$ 實驗室測試

商務 MLOps

一起來練習吧！

商務 MLOps

Preparing Video For Download...