Déploiement de modèles

Introduction à MLflow

Weston Bassler

Senior MLOps Engineer

Cycle de vie ML

Étapes du cycle de vie ML

1 datacamp.com
Introduction à MLflow

Versions et étapes du modèle

  • Versions de modèle

    • Version +1

  • Étapes du modèle

    • Préproduction
    • Production
    • Archivé

Versions et étapes du modèle

Introduction à MLflow

Façons de déployer des modèles

Charger le modèle

# MLflow flavor
mlflow.FLAVOR.load_model()

Servir le modèle

# MLflow serve command-line
mlflow models serve
Introduction à MLflow

URI des modèles

Convention

models:/

Version de modèle

models:/model_name/version

Étape du modèle

models:/model_name/stage
Introduction à MLflow

Charger des modèles

# Importer le flavor
import mlflow.FLAVOR


# Charger une version
mlflow.FLAVOR.load_model("models:/model_name/version")


# Charger une étape
mlflow.FLAVOR.load_model("models:/model_name/stage")
Introduction à MLflow

Exemple : charger des modèles

# Importer le flavor
import mlflow.sklearn


# Charger le modèle Unicorn en Préproduction
model = mlflow.sklearn.load_model("models:/Unicorn/Staging")

# Afficher le modèle
model

LogisticRegression()

# Inférence
model.predict(data)
Introduction à MLflow

Servir des modèles

# Servir le modèle Unicorn en Production
mlflow models serve -m "models:/Unicorn/Production"

2023/03/26 15:07:00 INFO mlflow.models.flavor_backend_registry: 
Selected backend for flavor 'python_function'
2023/03/26 15:07:00 INFO mlflow.pyfunc.backend: === Running command 'exec gunicorn 
--timeout=60 -b 127.0.0.1:5000 -w 1 ${GUNICORN_CMD_ARGS} -- 
mlflow.pyfunc.scoring_server.wsgi:app'
[2023-03-26 15:07:00 -0400] [86409] [INFO] Starting gunicorn 20.1.0
[2023-03-26 15:07:00 -0400] [86409] [INFO] Listening at: http://127.0.0.1:5000
[2023-03-26 15:07:00 -0400] [86409] [INFO] Using worker: sync
[2023-03-26 15:07:00 -0400] [86410] [INFO] Booting worker with pid: 86410
Introduction à MLflow

Point de terminaison invocations

api

http://localhost:5000/invocations

  • Formats
    • CSV
    • JSON
1 Flaticon.com
Introduction à MLflow

Format CSV

pandas_df.to_csv()

Format JSON

{
  "dataframe_split": {
      "columns": ["R&D Spend", "Administration", "Marketing Spend", "State"],
      "data": [["165349.20", 136897.80, 471784.10, 1]]
  }
}
Introduction à MLflow

Prédiction du modèle

# Envoyer la charge utile au point /invocations
curl http://127.0.0.1:5000/invocations -H 'Content-Type: application/json' -d
{
  "dataframe_split": {
      "columns": ["R&D Spend", "Administration", "Marketing Spend", "State"],
      "data": [["165349.20", 136897.80, 471784.10, 1]]
  }
}

[[104055.1842384]]
Introduction à MLflow

Passons à la pratique !

Introduction à MLflow

Preparing Video For Download...