實驗追蹤自動化

Fully Automated MLOps

Arturo Opsetmoen Amador

Senior Consultant - Machine Learning

機器學習具實驗性質

可調整的多個「拉桿」:

  • 資料轉換
    • 使用的特徵
  • 訓練演算法
    • 超參數調校
  • 評估指標
    • Precision、recall 等
Fully Automated MLOps

龐大的可能空間!

$$

多組天線指向滿天星空的照片。此圖用來比喻龐大且難以完全探索的空間。

Fully Automated MLOps

手動機器學習流程的問題

缺乏自動化=手動 ML 流程的問題

  • 難以追蹤實驗與結果
  • 浪費時間與資源
  • 成果難以重現/分享

一位資料科學家在筆電前非常挫折的畫面。

Fully Automated MLOps

ML 的自動化記錄

需記錄的重要項目:

  • 程式碼
  • 環境
  • 資料
  • 參數
  • 指標
Fully Automated MLOps

記錄的重要性

記錄對以下事項至關重要:

  • ML 系統實驗的可重現性。
  • 追蹤系統效能並做出明智決策。
  • 找出可改進的潛在問題。

$$

可重現性帶來透明度,對建立系統的可信度至關重要。

Fully Automated MLOps

實驗追蹤自動化系統

$$

以每次執行或實驗來組織記錄,可用來:

  • 檢視模型訓練中繼資料
  • 比較多次模型訓練
  • 重現模型訓練

$$

一張 IT 架構圖。實驗追蹤系統由兩個元件組成:儀表板使用者介面與程式化存取介面。使用者可透過儀表板 UI 存取系統,其他架構元件則透過程式化介面使用。實驗追蹤系統會將記錄寫入並讀取負責儲存記錄的元件。

Fully Automated MLOps

實驗追蹤自動化-現今工具生態

自動化實驗追蹤的常見工具:

  • TensorBoard

$$

  • MLFlow

$$

  • Weights & Biases

$$

  • Neptune

$$

Tensorflow 標誌。

$$

MLflow 標誌。

$$ Weight & Biases 標誌。

Neptune.AI 標誌。

Fully Automated MLOps

一起來練習吧!

Fully Automated MLOps

Preparing Video For Download...