Введение в DVC

Введение в версионирование данных с DVC

Ravi Bhadauria

Machine Learning Engineer

Git как система контроля версий

  • Система контроля версий кода
  • Независимая локальная разработка
    • Ветвление и слияние
    • Управление историей версий
  • Поддержка совместной работы

Схема децентрализованной модели Git

Введение в версионирование данных с DVC

Git как система контроля версий

  • Взаимодействие через CLI
  • Запуск в терминале, или оболочке
  • Git отслеживает содержимое через репозиторий
    • Файлы и папки, подлежащие отслеживанию
    • Метаданные Git (в папке .git)

Структура репозитория Git

Введение в версионирование данных с DVC

Контроль версий данных (DVC)

  • DVC: инструмент контроля версий данных
    • Управляет данными и экспериментами
    • Аналог Git

Концептуальная схема версионирования данных с помощью Git и DVC

  • Git хранит метаданные, DVC управляет версионированием данных
Введение в версионирование данных с DVC

Git и DVC: сравнение CLI

Git

  • Инициализация репозитория в рабочей папке
$ git init
  • Добавление файлов в репозиторий (индексирование изменений)
$ git add code.py
  • Фиксация изменений (в истории версий)
$ git commit -m "adding first file"

DVC

  • Инициализация репозитория DVC в рабочей папке
$ dvc init
  • Добавление файлов данных в DVC
$ dvc add data/mydata.csv
  • Обновление всех отслеживаемых файлов данных
$ dvc commit
Введение в версионирование данных с DVC

Git и DVC: сравнение CLI

Git

  • Отправка изменений кода на удалённый сервер
$ git push
  • Получение изменений с удалённого сервера
$ git pull
  • Клонирование существующего репозитория с удалённого сервера (Github)
$ git clone \
https://github.com/username/repository-name.git

DVC

  • Отправка изменений данных на удалённый сервер
$ dvc push
  • Синхронизация проекта DVC
$ dvc pull
  • Загрузка файла или директории, отслеживаемых DVC
$ dvc get \
https://github.com/username/repo-name model.pkl
Введение в версионирование данных с DVC

Давайте потренируемся!

Введение в версионирование данных с DVC

Preparing Video For Download...