在 Databricks 部署模型

Databricks 概念

Kevin Barlow

Data Practitioner

機器學習生命週期

機器學習生命週期

1 https://www.datacamp.com/blog/machine-learning-lifecycle-explained
Databricks 概念

模型部署與營運

機器學習生命週期

Databricks 概念

部署模型的考量

可用性

  • 最終使用者或應用程式要如何使用模型？
  • 我要把模型放在哪裡才能存取？
  • 模型是否容易理解與使用？

使用 ML 模型

評估

  • 使用者「真的」在用我的模型嗎？
  • 我的模型表現是否仍良好？
  • 我需要重新訓練模型嗎？
  • 我需要更好的新模型嗎？

評估 ML 模型

Databricks 概念

模型部署流程

模型部署流程

Databricks 概念

模型風味（Flavors）

  • MLFlow Models 可儲存任何機器學習框架的模型
  • 會與不同設定與產物一同儲存
  • 可依需求將模型「轉換」為其他風味。例如：
    • scikit-learn
    • pyfunc
    • spark
    • tensorflow

MLFlow 模型

Databricks 概念

模型登錄（Registry）

Databricks 模型登錄

Databricks 概念

模型登錄（Registry）

Model Registry - 已登錄模型

Databricks 概念

模型登錄（Registry）

Model Registry - 模型版本

Databricks 概念

模型登錄（Registry）

Model Registry - 階段

Databricks 概念

模型服務（Serving）

Databricks 模型服務

Databricks 概念

模型服務（Serving）

Model Serving - 叢集

Databricks 概念

模型服務（Serving）

Model Serving - 模型選擇

Databricks 概念

模型服務（Serving）

Model Serving 指標

1 https://www.databricks.com/product/model-serving
Databricks 概念

一起來練習吧！

Databricks 概念

Preparing Video For Download...