MLOps

AI Strategy 策略

Vidhi Chugh

AI strategist and ethicist

上線營運化

讓進階 AI 模型融入日常營運。

程式碼與資料的版本控制

• 實驗會產生多個程式碼版本

• 以版本控制系統維護

• 資料版本

• 新資料或新特徵

可攜性

• ML 專案的環境
  • 訓練
  • 驗證
  • 產品環境

 

• 生命週期一致性

  • 函式庫
  • 框架
  • 版本

 

該思考的時機！

• 管理不同版本與相依性

• 重點在即時商業價值

• 可擴充性與架構常被延後考量

• 臨時做法會帶來挑戰

資料管理自動化

• 重新準備訓練資料的成本
• 錯誤、變更或更新
• 自動化資料管理以確保品質
• 品質檢查與警示

為何需要自動化

• 人工介入＝延遲
  • 模型效能降低
  • 錯誤分析
  • 修正行動

 

• 已過相當長時間
• 預測不正確
• 負面後果

程式碼重構

 

 

• 缺乏核心工程最佳實務

 

• 需要重構初始程式碼
  • 風險高
  • 原始邏輯易被誤解或誤表達

高效架構的特性

 

• 可靠的系統需要投入
• MLOps＝流程標準化與自動化管線

 

• 自動化：
  • 可重用模組－資料產品、程式碼
  • 自動化測試框架
  • 降低重構風險

 

高效架構的特性

 

 

• Docker 將模型與環境打包

• 更少人工介入＝更高效的生命週期

• 維持模型效能具挑戰

 

• 以 MLOps 監控模型
  • 模型擱置減少 30%
  • 產出價值提高 60%

一起來練習吧！

AI Strategy 策略