Wprowadzenie do DVC

Wprowadzenie do wersjonowania danych z DVC

Ravi Bhadauria

Machine Learning Engineer

Git jako system kontroli wersji

  • System kontroli wersji kodu
  • Niezależny lokalny rozwój
    • Gałęzie i scalanie
    • Zarządzanie historią wersji
  • Umożliwia współpracę

Schemat zdecentralizowanego modelu Git

Wprowadzenie do wersjonowania danych z DVC

Git jako system kontroli wersji

  • Interakcja przez CLI
  • Uruchamiany w terminalu, czyli powłoce
  • Git śledzi zawartość poprzez repozytorium
    • Faktyczne pliki/foldery do śledzenia
    • Metadane Git (w folderze .git)

Struktura repozytorium Git

Wprowadzenie do wersjonowania danych z DVC

Data Version Control (DVC)

  • DVC: narzędzie do kontroli wersji danych
    • Zarządza danymi i eksperymentami
    • Podobne do Git

Koncepcja wersjonowania danych za pomocą Git i DVC

  • Git śledzi metadane, DVC zarządza wersjonowaniem danych
Wprowadzenie do wersjonowania danych z DVC

Git vs DVC CLI

Git

  • Inicjalizacja repozytorium w folderze roboczym
$ git init
  • Dodawanie plików do repozytorium (staging)
$ git add code.py
  • Zatwierdzanie zmian (w historii wersji)
$ git commit -m "adding first file"

DVC

  • Inicjalizacja repozytorium DVC w folderze roboczym
$ dvc init
  • Dodawanie plików danych do DVC
$ dvc add data/mydata.csv
  • Aktualizacja wszystkich śledzonych plików danych
$ dvc commit
Wprowadzenie do wersjonowania danych z DVC

Git vs DVC CLI

Git

  • Wysyłanie zmian kodu na serwer zdalny
$ git push
  • Pobieranie zmian ze zdalnego serwera
$ git pull
  • Klonowanie repozytorium ze zdalnego serwera (Github)
$ git clone \
https://github.com/username/repository-name.git

DVC

  • Wysyłanie zmian danych na zdalny serwer
$ dvc push
  • Synchronizacja projektu DVC
$ dvc pull
  • Pobieranie pliku lub katalogu śledzonego przez DVC
$ dvc get \
https://github.com/username/repo-name model.pkl
Wprowadzenie do wersjonowania danych z DVC

Czas na ćwiczenia!

Wprowadzenie do wersjonowania danych z DVC

Preparing Video For Download...