DVC Remotes कॉन्फ़िगर करना

DVC के साथ डेटा वर्ज़निंग परिचय

Ravi Bhadauria

Machine Learning Engineer

Recap

  • DVC रिपॉज़िटरी इनिशियलाइज़ करना
    • dvc init चलाएँ
    • वर्कस्पेस के अंदर रेपो (/path/to/my-project)
  • DVC cache सेट करना
    • .dvc डायरेक्टरी में टेम्प स्टेजिंग एरिया
      • /path/to/my-project/.dvc/cache
    • dvc add से टेम्प फ़ाइलें स्टेज करें
  • अब: DVC Remotes
    • एक्सटर्नल स्टोरेज
    • एसेट्स ट्रैक और शेयर करें
DVC के साथ डेटा वर्ज़निंग परिचय

DVC Remotes की ज़रूरत

  • DVC Remotes: डेटा स्टोरेज का लोकेशन
  • Git remotes जैसे, पर cached डेटा के लिए
  • Remotes के फ़ायदे
    • बड़े फ़ाइल/डायरेक्टरी सिंक करें
    • डेटा स्टोरेज को केंद्रीकृत या वितरित करें
    • लोकल स्पेस बचाएँ

DVC वर्कस्पेस से cache और remote तक डेटा फ्लो की रूपरेखा

DVC के साथ डेटा वर्ज़निंग परिचय

समर्थित स्टोरेज प्रकार

DVC में समर्थित स्टोरेज प्रकारों का ग्राफ़िक

DVC के साथ डेटा वर्ज़निंग परिचय

Remotes सेट करना

  • Remotes सेट करना

    • dvc remote add <name> <location>
  • S3 bucket

$ dvc remote add s3_remote \
   s3://mys3bucket
  • DVC config बदलाव
 ['remote "s3_remote"']
     url = s3://mys3bucket
  • GCP bucket
$ dvc remote add gcp_remote \
   gs://myGCPbucket
  • Azure
$ dvc remote add azure_remote \
   azure://mycontainer/path
DVC के साथ डेटा वर्ज़निंग परिचय

Local Remotes

  • Local remotes तेज़ प्रोटो‍टाइपिंग के लिए उपयोग करें
  • System डायरेक्टरी या Network Attached Storage अपनाएँ
$ dvc remote add mylocalremote /tmp/dvc
  • -d फ़्लैग से डिफ़ॉल्ट remote सेट करें
$ dvc remote add -d mylocalremote /tmp/dvc
  • डिफ़ॉल्ट remote, .dvc/config की core सेक्शन में असाइन होता है
[core]
remote = mylocalremote
DVC के साथ डेटा वर्ज़निंग परिचय

Remotes सूचीबद्ध करना

  • Remotes की लिस्टिंग
$ dvc remote list
s3_remote    s3://mys3bucket
local_remote /tmp/dvcremote
  • .dvc/config से पढ़ता है
 ['remote "s3_remote"']
     url = s3://mys3bucket
 ['remote "local_remote"']
     url = /tmp/dvcremote
DVC के साथ डेटा वर्ज़निंग परिचय

Remote कॉन्फ़िगरेशन बदलना

  • dvc remote modify से कस्टमाइज़ करें
$ dvc remote modify s3_remote connect_timeout 300
  • DVC config फ़ाइल में बदलाव
 ['remote "s3_remote"']
     url = s3://mys3bucket
     connect_timeout = 300
DVC के साथ डेटा वर्ज़निंग परिचय

Summary

  • DVC remotes डेटा और ML मॉडल शेयर करने के लिए उपयोग होते हैं
  • लोकल और क्लाउड-आधारित कई स्टोरेज लोकेशन सपोर्टेड हैं
  • Remotes जोड़ें: dvc remote add
    • डिफ़ॉल्ट के लिए -d फ़्लैग उपयोग करें
  • Remotes सूचीबद्ध करें: dvc remote list
  • Remotes संशोधित करें: dvc remote modify
DVC के साथ डेटा वर्ज़निंग परिचय

अभ्यास करते हैं!

DVC के साथ डेटा वर्ज़निंग परिचय

Preparing Video For Download...