Rețele neuronale și straturi

Introducere în Deep Learning cu PyTorch

Jasmin Ludolf

Senior Data Science Content Developer, DataCamp

Straturile rețelei neuronale

Diagramă reprezentând o rețea neuronală cu strat de intrare, strat ascuns și ieșire

Straturile rețelei neuronale

Diagramă reprezentând o rețea neuronală cu strat de intrare, strat ascuns și ieșire

Straturile rețelei neuronale

Diagramă reprezentând o rețea neuronală cu strat de intrare, strat ascuns și ieșire

Straturile rețelei neuronale

Diagramă reprezentând o rețea neuronală cu strat de intrare, strat ascuns și ieșire

Prima noastră rețea neuronală

Diagramă reprezentând o rețea neuronală de bază cu doar intrare și ieșire

Rețea complet conectată
Echivalentă cu un model liniar

Proiectarea unei rețele neuronale

Trei noduri reprezentând intrarea într-o rețea neuronală

# Importing as nn to avoid writing torch.nn
import torch.nn as nn


# Create input_tensor with three features
input_tensor = torch.tensor(
    [[0.3471, 0.4547, -0.2356]])

Neuroni de intrare = caracteristici
Neuroni de ieșire = clase

Proiectarea unei rețele neuronale

Trei noduri reprezentând intrarea într-o rețea neuronală, cu săgeți care indică stratul liniar

# Importing as nn to avoid writing torch.nn
import torch.nn as nn


# Create input_tensor with three features
input_tensor = torch.tensor(
    [[0.3471, 0.4547, -0.2356]])


# Define our linear layer
linear_layer = nn.Linear(

                         in_features=3,

                         out_features=2

                         )

Proiectarea unei rețele neuronale

Diagramă reprezentând o rețea neuronală de bază cu intrare și ieșire

# Importing as nn to avoid writing torch.nn
import torch.nn as nn


# Create input_tensor with three features
input_tensor = torch.tensor(
    [[0.3471, 0.4547, -0.2356]])


# Define our linear layer
linear_layer = nn.Linear(
                         in_features=3, 
                         out_features=2
                         )


# Pass input through linear layer
output = linear_layer(input_tensor)
print(output)

Proiectarea unei rețele neuronale

Diagramă reprezentând o rețea neuronală de bază cu intrare și ieșire

$$ $$ $$

# Pass input through linear layer
output = linear_layer(input_tensor)
print(output)

tensor([[-0.2415, -0.1604]], 
    grad_fn=<AddmmBackward0>)

Ponderi și bias-uri

output = linear_layer(input_tensor)

Reprezentarea operației liniare

Ponderi și bias-uri

.weight
```
print(linear_layer.weight)
```

Parameter containing:
tensor([[-0.4799,  0.4996,  0.1123],
        [-0.0365, -0.1855,  0.0432]], 
        requires_grad=True)

Reflectă importanța diferitelor caracteristici

.bias
```
print(linear_layer.bias)
```

Parameter containing:
tensor([0.0310, 0.1537], requires_grad=True)

Oferă neuronului o ieșire de bază

O rețea complet conectată în acțiune

Diagramă reprezentând o rețea neuronală de bază cu intrare și ieșire

O rețea complet conectată în acțiune

Diagramă reprezentând o rețea neuronală de bază cu intrare și ieșire

O rețea complet conectată în acțiune

Diagramă reprezentând o rețea neuronală de bază cu intrare și ieșire

Caracteristica umiditate va avea o pondere mai semnificativă
Bias-ul contabilizează informațiile de bază

Să exersăm!

Introducere în Deep Learning cu PyTorch