神經網路與層

使用 PyTorch 的深度學習入門

Jasmin Ludolf

Senior Data Science Content Developer, DataCamp

神經網路的層

顯示包含輸入層、隱藏層與輸出層的神經網路示意圖

神經網路的層

顯示包含輸入層、隱藏層與輸出層的神經網路示意圖

神經網路的層

顯示包含輸入層、隱藏層與輸出層的神經網路示意圖

神經網路的層

顯示包含輸入層、隱藏層與輸出層的神經網路示意圖

第一個神經網路

只含輸入與輸出的基礎神經網路示意圖

全連接網路
等同於線性模型

設計神經網路

代表神經網路輸入的三個節點

# Importing as nn to avoid writing torch.nn
import torch.nn as nn


# Create input_tensor with three features
input_tensor = torch.tensor(
    [[0.3471, 0.4547, -0.2356]])

輸入神經元 = 特徵
輸出神經元 = 類別

設計神經網路

三個輸入節點，前方箭頭表示線性層

# Importing as nn to avoid writing torch.nn
import torch.nn as nn


# Create input_tensor with three features
input_tensor = torch.tensor(
    [[0.3471, 0.4547, -0.2356]])


# Define our linear layer
linear_layer = nn.Linear(

                         in_features=3,

                         out_features=2

                         )

設計神經網路

只含輸入與輸出的基礎神經網路示意圖

# Importing as nn to avoid writing torch.nn
import torch.nn as nn


# Create input_tensor with three features
input_tensor = torch.tensor(
    [[0.3471, 0.4547, -0.2356]])


# Define our linear layer
linear_layer = nn.Linear(
                         in_features=3, 
                         out_features=2
                         )


# Pass input through linear layer
output = linear_layer(input_tensor)
print(output)

設計神經網路

只含輸入與輸出的基礎神經網路示意圖

$$ $$ $$

# Pass input through linear layer
output = linear_layer(input_tensor)
print(output)

tensor([[-0.2415, -0.1604]], 
    grad_fn=<AddmmBackward0>)

權重與偏差

output = linear_layer(input_tensor)

線性運算示意

權重與偏差

.weight
```
print(linear_layer.weight)
```

Parameter containing:
tensor([[-0.4799,  0.4996,  0.1123],
        [-0.0365, -0.1855,  0.0432]], 
        requires_grad=True)

反映各特徵的重要性

.bias
```
print(linear_layer.bias)
```

Parameter containing:
tensor([0.0310, 0.1537], requires_grad=True)

為神經元提供基準輸出

全連接網路實作

只含輸入與輸出的基礎神經網路示意圖

全連接網路實作

只含輸入與輸出的基礎神經網路示意圖

全連接網路實作

只含輸入與輸出的基礎神經網路示意圖

濕度特徵的權重較大
偏差用來表示基準資訊

一起來練習吧！

使用 PyTorch 的深度學習入門