Experiments loggen in MLflow

End-to-End Machine Learning

Joshua Stapleton

Machine Learning Engineer

MLflow

Zonder MLflow...

Veel ongetrackte, rommelige runs
Ondersoortige of onvergelijkbare runs
Niet-reproduceerbare, verloren runs

Met MLflow...

Getrackte, georganiseerde runs
Vergelijking tussen gestandaardiseerde runs
Reproduceerbare runs
Modellen delen en deployen

Experiments maken

mlflow.set_experiment()

Stelt de experimentnaam in
Biedt een workspace voor runs

Gebruik:

import mlflow

# Set an experiment name, which is a workspace for your runs
mlflow.set_experiment("Heart Disease Classification")

Experiments uitvoeren

# Start a new run in this experiment
with mlflow.start_run():
    # Train a model, get the prediction accuracy
    logistic_model = LogisticRegression()

    # Log parameters, eg:
    mlflow.log_param("n_estimators", logistic_model.n_estimators)

    # Log metrics (accuracy in this case)
    mlflow.log_metric("accuracy", logistic_model.accuracy)

    # Print out metrics
    print("Model accuracy: %.3f" % accuracy)

Model accuracy: 0.96

Experiments ophalen

mlflow.get_run(run_id)

Metadata voor een specifieke run

mlflow.search_runs()

Geeft een DataFrame met metrics over meerdere runs

Gebruik:

# Fetch the run data and print params
run_data = mlflow.get_run(run_id)
print(run_data.data.params)
print(run_data.data.metrics)

# Search all runs in experiment
exp_id = run_data.info.experiment_id
runs_df = mlflow.search_runs(exp_id)

{'epochs': '20', 'accuracy': 0.95}

MLflow-UI

MLflow-dashboard voor experiments

MLflow-voorbeeldpagina van een experiment

MLflow-UI (vervolg)

Voorbeeldgrafiek met metric-verbetering

Voorbeeldvergelijking van metrics over runs

MLflow-bronnen

Introductie tot MLflow

Officiële website van MLflow

Laten we oefenen!

End-to-End Machine Learning