Оцінювання: метрики та графіки в DVC

Вступ до керування версіями даних із DVC

Ravi Bhadauria

Machine Learning Engineer

Метрики: зміни в dvc.yaml

Налаштуйте файл DVC YAML для відстеження метрик між експериментами
Змініть з outs

stages:
  train_and_evaluate:
    outs:
    - metrics.json
    - plots.png

$$ $$

На metrics

stages:
  train_and_evaluate:
    outs:
    - plots.png
    metrics:
      - metrics.json:
        cache: false

Виведення метрик DVC

$ dvc metrics show

Path          accuracy    f1_score    precision    recall             
metrics.json  0.947       0.8656      0.988        0.7702

Порівняння метрик між запусками

Змініть гіперпараметр і перезапустіть dvc repro

$ dvc metrics diff

Path          Metric     HEAD    workspace    Change                  
metrics.json  accuracy   0.947   0.9995       0.0525
metrics.json  f1_score   0.8656  0.9989       0.1333
metrics.json  precision  0.988   0.9993       0.0113
metrics.json  recall     0.7702  0.9986       0.2284

Графіки: зміни в dvc.yaml

stages:
  train_and_evaluate:
    ...
    plots:
    - predictions.csv: # Файл із прогнозами
        template: confusion # Стиль графіка

        x: predicted_label # Назва колонки X у csv 
        y: true_label # Назва колонки Y у csv
        x_label: 'Predicted label'
        y_label: 'True label'
        title: Confusion matrix

        cache: false # Зберігати в Git

¹ https://dvc.org/doc/user-guide/experiment-management/visualizing-plots#plot-templates-data-series-only

Виведення графіків DVC у файл

$ dvc plots show predictions.csv

file:///path/to/index.html

Візуалізація матриці неточностей, згенерована DVC

Порівняння графіків DVC

# порівняти графік у predictions.csv з гілкою main
$ dvc plots diff --target predictions.csv <branch name or commit SHA>

Порівняння матриць неточностей, згенероване DVC

Давайте потренуємось!

Вступ до керування версіями даних із DVC