DVC 简介

DVC 数据版本管理入门

Ravi Bhadauria

Machine Learning Engineer

Git 作为版本控制

  • 代码版本控制系统
  • 独立本地开发
    • 分支与合并
    • 版本历史管理
  • 促进协作

Git 去中心化模型示意图

DVC 数据版本管理入门

Git 作为版本控制

  • 基于 CLI 的交互
  • 运行于终端(shell)
  • Git 通过仓库跟踪内容
    • 需跟踪的实际文件/文件夹
    • Git 元数据(在 .git 文件夹)

Git 仓库结构示意图

DVC 数据版本管理入门

数据版本控制(DVC)

  • DVC:数据版本控制工具
    • 管理数据与实验
    • 与 Git 类似

使用 Git 和 DVC 进行数据版本控制的概念图.png

  • Git 跟踪元数据,DVC 处理数据版本
DVC 数据版本管理入门

Git 与 DVC 命令行

Git

  • 在工作文件夹初始化仓库
$ git init
  • 将文件加入仓库(暂存变更)
$ git add code.py
  • 提交变更(写入版本历史)
$ git commit -m "adding first file"

DVC

  • 在工作文件夹初始化 DVC 仓库
$ dvc init
  • 将数据文件加入 DVC
$ dvc add data/mydata.csv
  • 更新所有已跟踪的数据文件
$ dvc commit
DVC 数据版本管理入门

Git 与 DVC 命令行

Git

  • 将代码变更推送到远程服务器
$ git push
  • 从远程拉取变更
$ git pull
  • 从远程(Github)克隆现有仓库
$ git clone \
https://github.com/username/repository-name.git

DVC

  • 将数据变更推送到远程数据服务器
$ dvc push
  • 同步您的 DVC 项目
$ dvc pull
  • 下载由 DVC 跟踪的文件或目录
$ dvc get \
https://github.com/username/repo-name model.pkl
DVC 数据版本管理入门

开始练习!

DVC 数据版本管理入门

Preparing Video For Download...