Logování experimentů v MLFlow

Strojové učení od začátku do konce

Joshua Stapleton

Machine Learning Engineer

MLFlow

Bez MLflow...

Nepřehledné, nesledované běhy experimentů
Nesrovnatelné běhy
Nereprodukovatelné, ztracené běhy

S MLflow...

Sledované, organizované běhy experimentů
Porovnání standardizovaných běhů
Reprodukovatelné běhy
Sdílení a nasazení modelů

Vytváření experimentů

mlflow.set_experiment()

Nastaví název experimentu
Poskytuje pracovní prostor pro běhy experimentů

Použití:

import mlflow

# Set an experiment name, which is a workspace for your runs
mlflow.set_experiment("Heart Disease Classification")

Spouštění experimentů

# Start a new run in this experiment
with mlflow.start_run():
    # Train a model, get the prediction accuracy
    logistic_model = LogisticRegression()

    # Log parameters, eg:
    mlflow.log_param("n_estimators", logistic_model.n_estimators)

    # Log metrics (accuracy in this case)
    mlflow.log_metric("accuracy", logistic_model.accuracy)

    # Print out metrics
    print("Model accuracy: %.3f" % accuracy)

Model accuracy: 0.96

Načítání experimentů

mlflow.get_run(run_id)

Metadata konkrétního běhu

mlflow.search_runs()

Vrátí DataFrame s metrikami pro více běhů

Použití:

# Fetch the run data and print params
run_data = mlflow.get_run(run_id)
print(run_data.data.params)
print(run_data.data.metrics)

# Search all runs in experiment
exp_id = run_data.info.experiment_id
runs_df = mlflow.search_runs(exp_id)

{'epochs': '20', 'accuracy': 0.95}

Uživatelské rozhraní MLFlow

Přehled experimentů v MLFlow

Ukázková stránka experimentu v MLFlow

Uživatelské rozhraní MLFlow (pokr.)

Ukázkový graf zlepšení metriky

Ukázkové porovnání metrik napříč běhy

Zdroje k MLflow

Úvod do MLflow

Oficiální web MLflow

Pojďme procvičovat!

Strojové učení od začátku do konce