Funzionalità DVC e casi d’uso

Introduzione al versionamento dei dati con DVC

Ravi Bhadauria

Machine Learning Engineer

Funzionalità DVC e casi d’uso

Argomenti trattati

  • Versionamento di dati e modelli
  • Pipeline DVC
  • Tracciamento di metriche e grafici

Argomenti avanzati (non trattati)

  • Tracking degli esperimenti
  • CI/CD per il machine learning
  • Registro dati
Introduzione al versionamento dei dati con DVC

Versionamento di dati e modelli

Schema del versionamento dei dati con il modello legato a commit Git specifici

1 https://dvc.org/doc/use-cases/versioning-data-and-models
Introduzione al versionamento dei dati con DVC

Pipeline

Schema della pipeline della fase di training del modello

  • Definisci la pipeline in dvc.yaml
stages:
  train:
    cmd: python train.py

deps: - code/train.py - data/input_data.csv - params/params.json
outs: - model_output/model.pkl
  • Esegui con dvc repro.
Introduzione al versionamento dei dati con DVC

Tracciamento di metriche e grafici

$ dvc metrics diff
Path                  Metric    HEAD     workspace    Change
dvclive/metrics.json  AUC       0.78912  0.18114      -0.60798
dvclive/metrics.json  TP        215      768          553

Confronto delle metriche AUC tra esperimenti ML con DVC plots

1 https://dvc.org/doc/command-reference/plots/diff
Introduzione al versionamento dei dati con DVC

Tracking degli esperimenti

  • Esegui l’esperimento e registra le metriche
    • dvc repro
    • dvc exp save
  • In alternativa, unisci i due passaggi con dvc exp run
  • Gli esperimenti sono reference Git personalizzate
    • Evitano commit Git gonfi
    • Puoi salvare esplicitamente con dvc exp save
  • Visualizza con dvc exp show
Introduzione al versionamento dei dati con DVC

CI/CD per il Machine Learning

Immagine concettuale di DVC e CML per CI/CD

1 Crediti immagine: https://dvc.org/doc/use-cases/ci-cd-for-machine-learning
Introduzione al versionamento dei dati con DVC

Registro dati

Immagine di DVC usato come data registry

1 Crediti immagine: https://dvc.org/doc/use-cases/data-registry
Introduzione al versionamento dei dati con DVC

Passons à la pratique !

Introduzione al versionamento dei dati con DVC

Preparing Video For Download...