Пользовательские модели

Введение в MLflow

Weston Bassler

Senior MLOps Engineer

Примеры использования

  • NLP — токенизатор

  • Классификация — кодировщик меток

  • Пред-/постобработка

  • Нет встроенного flavor

Разные

1 unsplash.com
Введение в MLflow

Пользовательские модели Python

  • Встроенный flavor — python_function

  • mlflow.pyfunc

    • save_model()
    • log_model()
    • load_model()
Введение в MLflow

Пользовательский класс модели

  • Пользовательский класс модели

    • MyClass(mlflow.pyfunc.PythonModel)

  • Класс PythonModel

    • load_context() — загружает артефакты при вызове mlflow.pyfunc.load_model()
    • predict() — принимает входные данные и выполняет пользовательскую оценку
Введение в MLflow

Класс Python

# Class
class MyPythonClass:

    # Function that prints Hello!
    def my_func():
        print("Hello!")


# Create a new Object
x = MyPythonClass()

# Excute my_func function
x.my_func()

"Hello!"
Введение в MLflow

Пример пользовательского класса

import mlflow.pyfunc

# Define the model class
class CustomPredict(mlflow.pyfunc.PythonModel):

    # Load artifacts
    def load_context(self, context):
        self.model = mlflow.sklearn.load_model(context.artifacts["custom_model"])

    # Evaluate input using custom_function()
    def predict(self, context, model_input):
        prediction = self.model.predict(model_input)
        return custom_function(prediction)
Введение в MLflow

Сохранение и логирование пользовательской модели

# Save model to local filesystem
mlflow.pyfunc.save_model(path="custom_model", python_model=CustomPredict())

# Log model to MLflow Tracking
mlflow.pyfunc.log_model(artifact_path="custom_model", python_model=CustomPredict())
Введение в MLflow

Загрузка пользовательских моделей

# Load model from local filesystem
mlflow.pyfunc.load_model("local")

# Load model from MLflow Tracking
mlflow.pyfunc.load_model("runs:/run_id/tracking_path")
Введение в MLflow

Оценка модели

  • mlflow.evaluate() — оценка производительности на наборе данных

  • Модели регрессии и классификации

Введение в MLflow

Пример оценки

# Training Data
X_train, X_test, y_train, y_test = \
    train_test_split(X, y,
    train_size=0.7,random_state=0)


# Linear Regression model
lr = LinearRegression()
lr.fit(X_train, y_train)

# Dataset
eval_data = X_test
eval_data["test_label"] = y_test


# Evaluate model with Dataset 
mlflow.evaluate(
    "runs:/run_id/model",
    eval_data,
    targets="test_label",
    model_type="regressor"
)
Введение в MLflow

Интерфейс отслеживания

оценка

shap

1 shap.readthedocs.io
Введение в MLflow

Давайте потренируемся!

Введение в MLflow

Preparing Video For Download...