Запуск проектов MLflow

Введение в MLflow

Weston Bassler

Senior MLOps Engineer

API и командная строка

Рабочие процессы

Введение в MLflow

Projects API

mlflow.projects

mlflow.projects.run()

  • uri - URI до файла MLproject

  • entry_point - Точка входа для запуска из MLproject

  • experiment_name - Эксперимент для отслеживания обучающего запуска

  • env_manager - Менеджер Python-окружения: local или virtualenv

# Run MLflow Project
mlflow.projects.run(

    uri='./',

    entry_point='main',

    experiment_name='My Experiment',

    env_manager='virtualenv'

)
Введение в MLflow

MLproject

name: salary_model
python_env: python_env.yaml
entry_points:
  main:
    command: "python train_model.py"
Введение в MLflow

train_model.py

# Import libraries and modules
import mlflow
import mlflow.sklearn
import pandas as pd
from sklearn.linear_model import LinearRegression
from sklearn.model_selection import train_test_split


# Training Data
df = pd.read_csv('Salary_predict.csv')
X = df[["experience", "age", "interview_score"]]
y = df[["Salary"]]
Введение в MLflow

train_model.py

# Train test split 
X_train, X_test, y_train, y_test = train_test_split(X, y, train_size=0.7,
                                                    random_state=0)


# Set Auto logging for Scikit-learn flavor
mlflow.sklearn.autolog()

# Train model
lr = LinearRegression()
lr.fit(X_train, y_train)
Введение в MLflow

Запуск проекта

# Import MLflow Module
import mlflow


# Run local Project
mlflow.projects.run(uri='./', entry_point='main', 
                    experiment_name='Salary Model')
Введение в MLflow

Вывод запуска

# Run local Project
mlflow.projects.run(uri='./', entry_point='main', 
                    experiment_name='Salary Model')

2023/04/02 14:33:23 INFO mlflow.projects: 'Salary Model' does not exist. 
Creating a new experiment

2023/04/02 14:33:23 INFO mlflow.utils.virtualenv: Installing python 3.10.8 if it 
does not exist
2023/04/02 14:33:23 INFO mlflow.utils.virtualenv: Creating a new environment 
/.mlflow/envs/mlflow-44f5094bba686a8d4a5c772
created virtual environment CPython3.10.8.final.0-64 in 236ms
2023/04/02 14:33:23 INFO mlflow.utils.virtualenv: Installing dependencies
Введение в MLflow

Вывод запуска

2023/04/02 14:33:59 INFO mlflow.projects.backend.local: === Running command 
'source /.mlflow/envs/mlflow-44f5094bba686a8d4a5c772/bin/activate && python 
train_model.py' in run with ID '562916d45aeb48ec84c1c393d6e3f5b6' ===

2023/04/02 14:34:34 INFO mlflow.projects: === Run (ID 
'562916d45aeb48ec84c1c393d6e3f5b6') succeeded ===
Введение в MLflow

Отслеживание MLflow

Интерфейс отслеживания MLflow

Введение в MLflow

Командная строка

mlflow run

  • --entry-point - Точка входа для запуска из MLproject

  • --experiment-name - Эксперимент для отслеживания обучающего запуска

  • --env-manager - Менеджер Python-окружения: local или virtualenv

  • URI - URI до файла MLproject

Введение в MLflow

Команда запуска

# Run main entry point from Salary Model experiment
mlflow run --entry-point main --experiment-name "Salary Model" ./

2023/04/02 15:23:34 INFO mlflow.utils.virtualenv: Installing python 3.10.8 if it 
does not exist
2023/04/02 15:23:34 INFO mlflow.utils.virtualenv: Environment 
/.mlflow/envs/mlflow-44f5094bba686a8d4a5c772 already exists

2023/04/02 15:23:34 INFO mlflow.projects.backend.local: === Running command 'source
/Users/weston/.mlflow/envs/mlflow-44f5094bba686a8d4a5c772/bin/activate && python 
train_model.py' in run with ID 'da5b37b6f53245e5bca59ba8ed6d7dc1' ===

2023/04/02 15:23:38 INFO mlflow.projects: === Run 
(ID 'da5b37b6f53245e5bca59ba8ed6d7dc1') succeeded ===
Введение в MLflow

Давайте потренируемся!

Введение в MLflow

Preparing Video For Download...