मॉडल डिप्लॉयमेंट

MLflow परिचय

Weston Bassler

Senior MLOps Engineer

ML लाइफसाइकल

ML लाइफसाइकल के चरण

¹ datacamp.com

मॉडल वर्ज़न और स्टेज

मॉडल वर्ज़न
- वर्ज़न +1
मॉडल स्टेज
- Staging
- Production
- Archived

मॉडल वर्ज़न और स्टेज

मॉडल डिप्लॉय करने के तरीके

मॉडल लोड करें

# MLflow flavor
mlflow.FLAVOR.load_model()

मॉडल सर्व करें

# MLflow serve कमांड-लाइन
mlflow models serve

Models URI

कन्वेंशन

models:/

मॉडल वर्ज़न

models:/model_name/version

मॉडल स्टेज

models:/model_name/stage

मॉडल लोड करें

# फ्लेवर इम्पोर्ट करें
import mlflow.FLAVOR


# वर्ज़न लोड करें
mlflow.FLAVOR.load_model("models:/model_name/version")


# स्टेज लोड करें
mlflow.FLAVOR.load_model("models:/model_name/stage")

मॉडल लोड करने का उदाहरण

# फ्लेवर इम्पोर्ट करें
import mlflow.sklearn


# Staging में Unicorn मॉडल लोड करें
model = mlflow.sklearn.load_model("models:/Unicorn/Staging")

# मॉडल प्रिंट करें
model

LogisticRegression()

# इन्फेरेंस
model.predict(data)

मॉडल सर्व करना

# Production स्टेज में Unicorn मॉडल सर्व करें
mlflow models serve -m "models:/Unicorn/Production"

2023/03/26 15:07:00 INFO mlflow.models.flavor_backend_registry: 
Selected backend for flavor 'python_function'
2023/03/26 15:07:00 INFO mlflow.pyfunc.backend: === Running command 'exec gunicorn 
--timeout=60 -b 127.0.0.1:5000 -w 1 ${GUNICORN_CMD_ARGS} -- 
mlflow.pyfunc.scoring_server.wsgi:app'
[2023-03-26 15:07:00 -0400] [86409] [INFO] Starting gunicorn 20.1.0
[2023-03-26 15:07:00 -0400] [86409] [INFO] Listening at: http://127.0.0.1:5000
[2023-03-26 15:07:00 -0400] [86409] [INFO] Using worker: sync
[2023-03-26 15:07:00 -0400] [86410] [INFO] Booting worker with pid: 86410

Invocations endpoint

api

http://localhost:5000/invocations

फॉर्मेट्स
- CSV
- JSON

¹ Flaticon.com

CSV फॉर्मेट

pandas_df.to_csv()

JSON फॉर्मेट

{
  "dataframe_split": {
      "columns": ["R&D Spend", "Administration", "Marketing Spend", "State"],
      "data": [["165349.20", 136897.80, 471784.10, 1]]
  }
}

मॉडल प्रेडिक्शन

# पेलोड invocations endpoint पर भेजें
curl http://127.0.0.1:5000/invocations -H 'Content-Type: application/json' -d
{
  "dataframe_split": {
      "columns": ["R&D Spend", "Administration", "Marketing Spend", "State"],
      "data": [["165349.20", 136897.80, 471784.10, 1]]
  }
}

[[104055.1842384]]

अभ्यास करते हैं!

MLflow परिचय