Vlastní modely

Úvod do MLflow

Weston Bassler

Senior MLOps Engineer

Příklady použití

NLP – tokenizér(y)
Klasifikace – enkodér štítků
Předzpracování/postprocessing
Není vestavěný flavor

Odlišný

¹ unsplash.com

Vlastní modely v Pythonu

Vestavěný flavor – python_function
mlflow.pyfunc
- save_model()
- log_model()
- load_model()

Vlastní třída modelu

Vlastní třída modelu
- MyClass(mlflow.pyfunc.PythonModel)
Třída PythonModel
- load_context() – načte artefakty při volání mlflow.pyfunc.load_model()
- predict() – přijme vstup modelu a provede uživatelsky definované vyhodnocení

Třída v Pythonu

# Class
class MyPythonClass:

    # Function that prints Hello!
    def my_func():
        print("Hello!")

# Create a new Object
x = MyPythonClass()

# Excute my_func function
x.my_func()

"Hello!"

Příklad vlastní třídy

import mlflow.pyfunc

# Define the model class
class CustomPredict(mlflow.pyfunc.PythonModel):

    # Load artifacts
    def load_context(self, context):
        self.model = mlflow.sklearn.load_model(context.artifacts["custom_model"])

    # Evaluate input using custom_function()
    def predict(self, context, model_input):
        prediction = self.model.predict(model_input)
        return custom_function(prediction)

Ukládání a logování vlastního modelu

# Save model to local filesystem
mlflow.pyfunc.save_model(path="custom_model", python_model=CustomPredict())

# Log model to MLflow Tracking
mlflow.pyfunc.log_model(artifact_path="custom_model", python_model=CustomPredict())

Načítání vlastních modelů

# Load model from local filesystem
mlflow.pyfunc.load_model("local")

# Load model from MLflow Tracking
mlflow.pyfunc.load_model("runs:/run_id/tracking_path")

Vyhodnocení modelu

mlflow.evaluate() – výkonnost na základě datové sady
Regresní a klasifikační modely

Příklad vyhodnocení

# Training Data
X_train, X_test, y_train, y_test = \
    train_test_split(X, y,
    train_size=0.7,random_state=0)


# Linear Regression model
lr = LinearRegression()
lr.fit(X_train, y_train)

# Dataset
eval_data = X_test
eval_data["test_label"] = y_test


# Evaluate model with Dataset 
mlflow.evaluate(
    "runs:/run_id/model",
    eval_data,
    targets="test_label",
    model_type="regressor"
)

Rozhraní pro sledování

vyhodnocení

shap

¹ shap.readthedocs.io

Pojďme si procvičit!

Úvod do MLflow