Modele niestandardowe

Wprowadzenie do MLflow

Weston Bassler

Senior MLOps Engineer

Przykładowe zastosowania

NLP – tokenizator(y)
Klasyfikacja – enkoder etykiet
Pre/postprzetwarzanie
Brak wbudowanego flavoru

Różne

¹ unsplash.com

Niestandardowe modele Python

Wbudowany flavor – python_function
mlflow.pyfunc
- save_model()
- log_model()
- load_model()

Niestandardowa klasa modelu

Niestandardowa klasa modelu
- MyClass(mlflow.pyfunc.PythonModel)
Klasa PythonModel
- load_context() – wczytuje artefakty przy wywołaniu mlflow.pyfunc.load_model()
- predict() – przyjmuje dane wejściowe i wykonuje zdefiniowaną przez użytkownika ewaluację

Klasa Python

# Class
class MyPythonClass:

    # Function that prints Hello!
    def my_func():
        print("Hello!")

# Create a new Object
x = MyPythonClass()

# Excute my_func function
x.my_func()

"Hello!"

Przykładowa klasa niestandardowa

import mlflow.pyfunc

# Define the model class
class CustomPredict(mlflow.pyfunc.PythonModel):

    # Load artifacts
    def load_context(self, context):
        self.model = mlflow.sklearn.load_model(context.artifacts["custom_model"])

    # Evaluate input using custom_function()
    def predict(self, context, model_input):
        prediction = self.model.predict(model_input)
        return custom_function(prediction)

Zapisywanie i rejestrowanie modelu niestandardowego

# Save model to local filesystem
mlflow.pyfunc.save_model(path="custom_model", python_model=CustomPredict())

# Log model to MLflow Tracking
mlflow.pyfunc.log_model(artifact_path="custom_model", python_model=CustomPredict())

Wczytywanie modeli niestandardowych

# Load model from local filesystem
mlflow.pyfunc.load_model("local")

# Load model from MLflow Tracking
mlflow.pyfunc.load_model("runs:/run_id/tracking_path")

Ewaluacja modelu

mlflow.evaluate() - wydajność na podstawie zbioru danych
Modele regresji i klasyfikacji

Przykład ewaluacji

# Training Data
X_train, X_test, y_train, y_test = \
    train_test_split(X, y,
    train_size=0.7,random_state=0)


# Linear Regression model
lr = LinearRegression()
lr.fit(X_train, y_train)

# Dataset
eval_data = X_test
eval_data["test_label"] = y_test


# Evaluate model with Dataset 
mlflow.evaluate(
    "runs:/run_id/model",
    eval_data,
    targets="test_label",
    model_type="regressor"
)

Interfejs śledzenia

eval

shap

¹ shap.readthedocs.io

Czas na ćwiczenia!

Wprowadzenie do MLflow