हिडन लेयर्स और पैरामीटर्स

PyTorch के साथ Deep Learning परिचय

Jasmin Ludolf

Senior Data Science Content Developer, DataCamp

nn.Sequential() के साथ लेयर्स स्टैक करना

# Create network with three linear layers
model = nn.Sequential(

nn.Linear(n_features, 8),
nn.Linear(8, 4), nn.Linear(4, n_classes)
)
  • इनपुट को लीनियर लेयर्स से पास किया जाता है
  • nn.Sequential() के अंदर की लेयर्स हिडन लेयर्स हैं
PyTorch के साथ Deep Learning परिचय

nn.Sequential() के साथ लेयर्स स्टैक करना

# Create network with three linear layers
model = nn.Sequential(
    nn.Linear(n_features, 8), # n_features represents number of input features
    nn.Linear(8, 4),
    nn.Linear(4, n_classes) # n_classes represents the number of output classes  
)
  • इनपुट को लीनियर लेयर्स से पास किया जाता है
  • nn.Sequential() के अंदर की लेयर्स हिडन लेयर्स हैं
  • n_features और n_classes डेटासेट से निर्धारित होते हैं
PyTorch के साथ Deep Learning परिचय

लेयर्स जोड़ना

दो हिडन लेयर्स वाला न्यूरल नेटवर्क का चित्र

PyTorch के साथ Deep Learning परिचय

लेयर्स जोड़ना

चार हिडन लेयर्स वाला न्यूरल नेटवर्क का चित्र

PyTorch के साथ Deep Learning परिचय

लेयर्स जोड़ना

चार हिडन लेयर्स वाला न्यूरल नेटवर्क का चित्र

PyTorch के साथ Deep Learning परिचय

लेयर्स जोड़ना

चार हिडन लेयर्स वाला न्यूरल नेटवर्क का चित्र

PyTorch के साथ Deep Learning परिचय

लेयर्स जोड़ना

# Create network with three linear layers
model = nn.Sequential(
    nn.Linear(10, 18),
    nn.Linear(18, 20),
    nn.Linear(20, 5)
)
PyTorch के साथ Deep Learning परिचय

लेयर्स जोड़ना

# Create network with three linear layers
model = nn.Sequential(
    nn.Linear(10, 18), # Takes 10 features and outputs 18
    nn.Linear(18, 20),
    nn.Linear(20, 5)
)
  • Input 10 ➡ output 18 ➡ output 20 ➡ Output 5
PyTorch के साथ Deep Learning परिचय

लेयर्स जोड़ना

# Create network with three linear layers
model = nn.Sequential(
    nn.Linear(10, 18),
    nn.Linear(18, 20), # Takes 18 and outputs 20
    nn.Linear(20, 5)
)
  • Input 10 ➡ output 18 ➡ output 20 ➡ Output 5
PyTorch के साथ Deep Learning परिचय

लेयर्स जोड़ना

# Create network with three linear layers
model = nn.Sequential(
    nn.Linear(10, 18),
    nn.Linear(18, 20),
    nn.Linear(20, 5) # Takes 20 and outputs 5
)
  • Input 10 ➡ output 18 ➡ output 20 ➡ Output 5
PyTorch के साथ Deep Learning परिचय

लेयर्स न्यूरॉन्स से बनती हैं

$$

  • फुली कनेक्टेड तब होता है जब हर न्यूरॉन पिछली लेयर के सभी न्यूरॉन्स से जुड़ा हो

इनपुट और आउटपुट लेयर का चित्र, जिनमें तीर लेयर्स को जोड़ते हैं

PyTorch के साथ Deep Learning परिचय

लेयर्स न्यूरॉन्स से बनती हैं

$$

  • फुली कनेक्टेड तब होता है जब हर न्यूरॉन पिछली लेयर के सभी न्यूरॉन्स से जुड़ा हो

$$

  • लीनियर लेयर में एक न्यूरॉन:

इनपुट और आउटपुट लेयर का चित्र, तीरों से जुड़ा, और एक आउटपुट न्यूरॉन पर घेरा

PyTorch के साथ Deep Learning परिचय

लेयर्स न्यूरॉन्स से बनती हैं

$$

  • फुली कनेक्टेड तब होता है जब हर न्यूरॉन पिछली लेयर के सभी न्यूरॉन्स से जुड़ा हो

$$

  • लीनियर लेयर में एक न्यूरॉन:
    • पिछली लेयर के सभी न्यूरॉन्स का उपयोग करके एक लीनियर ऑपरेशन करता है

इनपुट और आउटपुट लेयर का चित्र, तीरों से जुड़ा, एक आउटपुट न्यूरॉन पर घेरा और हाइलाइटेड तीर

PyTorch के साथ Deep Learning परिचय

लेयर्स न्यूरॉन्स से बनती हैं

$$

  • फुली कनेक्टेड तब होता है जब हर न्यूरॉन पिछली लेयर के सभी न्यूरॉन्स से जुड़ा हो

$$

  • लीनियर लेयर में एक न्यूरॉन:
    • पिछली लेयर के सभी न्यूरॉन्स का उपयोग करके एक लीनियर ऑपरेशन करता है
    • इसके N+1 पैरामीटर्स होते हैं: N इनपुट्स से और 1 बायस के लिए

N+1

PyTorch के साथ Deep Learning परिचय

पैरामीटर्स और मॉडल कैपेसिटी

  • ज्यादा हिडन लेयर्स = ज्यादा पैरामीटर्स = अधिक मॉडल कैपेसिटी

$$

दो-लेयर नेटवर्क का कोड ब्लॉक

PyTorch के साथ Deep Learning परिचय

पैरामीटर्स और मॉडल कैपेसिटी

  • ज्यादा हिडन लेयर्स = ज्यादा पैरामीटर्स = अधिक मॉडल कैपेसिटी

$$

दो-लेयर नेटवर्क का कोड ब्लॉक

$$

मैनुअल पैरामीटर कैलकुलेशन:

  • पहली लेयर में 4 न्यूरॉन्स हैं, हर न्यूरॉन के 8+1 पैरामीटर्स हैं. 9 गुणा 4 = 36 पैरामीटर्स
PyTorch के साथ Deep Learning परिचय

पैरामीटर्स और मॉडल कैपेसिटी

  • ज्यादा हिडन लेयर्स = ज्यादा पैरामीटर्स = अधिक मॉडल कैपेसिटी

$$

दो-लेयर नेटवर्क का कोड ब्लॉक

$$

मैनुअल पैरामीटर कैलकुलेशन:

  • पहली लेयर में 4 न्यूरॉन्स हैं, हर न्यूरॉन के 8+1 पैरामीटर्स हैं. 9 गुणा 4 = 36 पैरामीटर्स
PyTorch के साथ Deep Learning परिचय

पैरामीटर्स और मॉडल कैपेसिटी

  • ज्यादा हिडन लेयर्स = ज्यादा पैरामीटर्स = अधिक मॉडल कैपेसिटी

$$

दो-लेयर नेटवर्क का कोड ब्लॉक

$$

मैनुअल पैरामीटर कैलकुलेशन:

  • पहली लेयर में 4 न्यूरॉन्स हैं, हर न्यूरॉन के 8+1 पैरामीटर्स हैं. 9 गुणा 4 = 36 पैरामीटर्स
  • दूसरी लेयर में 2 न्यूरॉन्स हैं, हर न्यूरॉन के 4+1 पैरामीटर्स हैं. 5 गुणा 2 = 10 पैरामीटर्स
PyTorch के साथ Deep Learning परिचय

पैरामीटर्स और मॉडल कैपेसिटी

  • ज्यादा हिडन लेयर्स = ज्यादा पैरामीटर्स = अधिक मॉडल कैपेसिटी

$$

दो-लेयर नेटवर्क का कोड ब्लॉक

$$

मैनुअल पैरामीटर कैलकुलेशन:

  • पहली लेयर में 4 न्यूरॉन्स हैं, हर न्यूरॉन के 8+1 पैरामीटर्स हैं. 9 गुणा 4 = 36 पैरामीटर्स
  • दूसरी लेयर में 2 न्यूरॉन्स हैं, हर न्यूरॉन के 4+1 पैरामीटर्स हैं. 5 गुणा 2 = 10 पैरामीटर्स
  • 36 + 10 = 46 लर्नेबल पैरामीटर्स
PyTorch के साथ Deep Learning परिचय

पैरामीटर्स और मॉडल कैपेसिटी

  • ज्यादा हिडन लेयर्स = ज्यादा पैरामीटर्स = अधिक मॉडल कैपेसिटी

$$

दो-लेयर नेटवर्क का कोड ब्लॉक

$$

PyTorch का उपयोग:

  • .numel(): टेन्सर में एलिमेंट्स की संख्या लौटाता है
total = 0
for parameter in model.parameters():
    total += parameter.numel()
print(total)
46
PyTorch के साथ Deep Learning परिचय

जटिलता और दक्षता का संतुलन

जटिलता और दक्षता के बीच संतुलन

PyTorch के साथ Deep Learning परिचय

अभ्यास करते हैं!

PyTorch के साथ Deep Learning परिचय

Preparing Video For Download...