與 MLOps 相關的商業挑戰與風險

商務 MLOps

Arne Jonas Warnke

Head of Emerging Curriculum

第 3 章課程大綱

Video 與 MLOps 相關的商業挑戰與風險：

  • 與 MLOps 相關的商業挑戰與風險

$$

Video MLOps 團隊如何成功營運：

  • MLOps 團隊如何成功營運

$$

Video 當今 MLOps 現況

  • 當今 MLOps 現況
商務 MLOps

MLOps 充滿挑戰

$$ 許多公司面臨困難：

  • 將{{1}}落地營運
  • 自動化設計與開發
  • 精簡流程並擴充規模

其 ML 應用情境

$$

挑戰

商務 MLOps

MLOps 需要多元技能

MLOps 位於 Machine Learning、Data Engineering 與 Software Engineering 的交會處

商務 MLOps

MLOps 挑戰：技能落差

團隊常常

  • 欠缺某些必要技能
    • 多與軟體工程相關

$$

這可能導致

  • 技術債
  • 缺乏標準化
  • 可重現性不足

協作解謎的人們

商務 MLOps

MLOps 挑戰：協作與文化

協作是關鍵，可確保：

  • 統計指標與商業目標一致
  • 所有利害關係人了解 MLOps 團隊如何運作

$$

所需文化與習慣

  • 持續學習
  • 接受失敗會發生
  • 完整文件與知識分享

$$

多人在電腦前協作

商務 MLOps

MLOps 挑戰：技術面

科技

  • 演進快速
  • 沒有共通的 MLOps 工具堆疊
    • 各團隊採用大相逕庭的技術做法
    • 關於技術的公認最佳實務很少

$$

常見錯誤

  • 過度強調技術

$$ 智慧網路圖

商務 MLOps

MLOps 挑戰：風險

營運機器學習模型的風險：

  • 商業與財務風險
    • 應用程式／模型可能無法使用
    • 預測品質可能惡化
    • 維護風險
  • 治理風險
    • 預測可能完全失準
    • 可能存在偏誤（bias）
  • （資安）安全風險

$$

各種風險的示意圖

商務 MLOps

傳統軟體專案 vs. MLOps

傳統軟體

  • 測試、除錯……

MLOps

  • 測試、除錯……
  • 資料監控
  • 模型輸出監控
  • ……

$$ 正在撰寫程式碼的人

$$ 人機協作寫程式碼

商務 MLOps

一起來練習吧！

商務 MLOps

Preparing Video For Download...