DVC 원격 저장소 구성

DVC로 배우는 데이터 버저닝 입문

Ravi Bhadauria

Machine Learning Engineer

복습

  • DVC 저장소 초기화
    • dvc init 실행
    • 워크스페이스 내부에 저장소(_/path/to/my-project_)
  • DVC 캐시 설정
    • .dvc 디렉터리의 임시 스테이징 영역
      • _/path/to/my-project/.dvc/cache_
    • dvc add로 파일 임시 스테이징
  • 다음: DVC 원격
    • 외부 스토리지
    • 자산 추적 및 공유
DVC로 배우는 데이터 버저닝 입문

DVC 원격의 필요성

  • DVC 원격: 데이터 저장 위치
  • Git 원격과 유사하지만, 캐시된 데이터용
  • 원격 사용 이점
    • 대용량 파일·디렉터리 동기화
    • 저장소를 중앙화 또는 분산화
    • 로컬 공간 절약

DVC 워크스페이스에서 캐시와 원격으로의 데이터 흐름 도식

DVC로 배우는 데이터 버저닝 입문

지원 스토리지 유형

DVC에서 지원되는 스토리지 유형 그래픽

DVC로 배우는 데이터 버저닝 입문

원격 설정하기

  • 원격 설정

    • dvc remote add <name> <location>
  • S3 버킷

$ dvc remote add s3_remote \
   s3://mys3bucket
  • DVC 설정 변경
 ['remote "s3_remote"']
     url = s3://mys3bucket
  • GCP 버킷
$ dvc remote add gcp_remote \
   gs://myGCPbucket
  • Azure
$ dvc remote add azure_remote \
   azure://mycontainer/path
DVC로 배우는 데이터 버저닝 입문

로컬 원격

  • 로컬 원격은 빠른 프로토타입에 사용합니다
  • 시스템 디렉터리 또는 NAS를 사용합니다
$ dvc remote add mylocalremote /tmp/dvc
  • -d 플래그로 기본 원격을 설정합니다
$ dvc remote add -d mylocalremote /tmp/dvc
  • 기본 원격은 .dvc/configcore 섹션에 지정됩니다
[core]
remote = mylocalremote
DVC로 배우는 데이터 버저닝 입문

원격 목록 보기

  • 원격 목록 보기
$ dvc remote list
s3_remote    s3://mys3bucket
local_remote /tmp/dvcremote
  • .dvc/config에서 읽습니다
 ['remote "s3_remote"']
     url = s3://mys3bucket
 ['remote "local_remote"']
     url = /tmp/dvcremote
DVC로 배우는 데이터 버저닝 입문

원격 설정 수정

  • dvc remote modify로 설정을 변경할 수 있습니다
$ dvc remote modify s3_remote connect_timeout 300
  • DVC 설정 파일 변경 내용
 ['remote "s3_remote"']
     url = s3://mys3bucket
     connect_timeout = 300
DVC로 배우는 데이터 버저닝 입문

요약

  • DVC 원격은 데이터와 ML 모델 공유에 사용됩니다
  • 로컬 및 클라우드 기반 저장소를 지원합니다
  • 원격 추가: dvc remote add
    • 기본값 지정은 -d 사용
  • 원격 목록: dvc remote list
  • 원격 수정: dvc remote modify
DVC로 배우는 데이터 버저닝 입문

Ayo berlatih!

DVC로 배우는 데이터 버저닝 입문

Preparing Video For Download...