Mạng nơ-ron và các tầng

Nhập môn Deep Learning với PyTorch

Jasmin Ludolf

Senior Data Science Content Developer, DataCamp

Các tầng của mạng nơ-ron

Sơ đồ mạng nơ-ron với đầu vào, tầng ẩn và đầu ra

Nhập môn Deep Learning với PyTorch

Các tầng của mạng nơ-ron

Sơ đồ mạng nơ-ron với đầu vào, tầng ẩn và đầu ra

Nhập môn Deep Learning với PyTorch

Các tầng của mạng nơ-ron

Sơ đồ mạng nơ-ron với đầu vào, tầng ẩn và đầu ra

Nhập môn Deep Learning với PyTorch

Các tầng của mạng nơ-ron

Sơ đồ mạng nơ-ron với đầu vào, tầng ẩn và đầu ra

Nhập môn Deep Learning với PyTorch

Mạng nơ-ron đầu tiên của chúng ta

Sơ đồ biểu diễn mạng nơ-ron cơ bản chỉ có đầu vào và đầu ra

  • Mạng kết nối đầy đủ
  • Tương đương mô hình tuyến tính
Nhập môn Deep Learning với PyTorch

Thiết kế một mạng nơ-ron

Ba nút biểu diễn đầu vào cho một mạng nơ-ron

# Importing as nn to avoid writing torch.nn
import torch.nn as nn


# Create input_tensor with three features input_tensor = torch.tensor( [[0.3471, 0.4547, -0.2356]])
  • Nơ-ron đầu vào = đặc trưng
  • Nơ-ron đầu ra = lớp
Nhập môn Deep Learning với PyTorch

Thiết kế một mạng nơ-ron

Ba nút là đầu vào của mạng nơ-ron với mũi tên hướng tới tầng tuyến tính

# Importing as nn to avoid writing torch.nn
import torch.nn as nn


# Create input_tensor with three features input_tensor = torch.tensor( [[0.3471, 0.4547, -0.2356]])
# Define our linear layer linear_layer = nn.Linear(
in_features=3,
out_features=2
)
Nhập môn Deep Learning với PyTorch

Thiết kế một mạng nơ-ron

Sơ đồ biểu diễn mạng nơ-ron cơ bản chỉ có đầu vào và đầu ra

# Importing as nn to avoid writing torch.nn
import torch.nn as nn


# Create input_tensor with three features input_tensor = torch.tensor( [[0.3471, 0.4547, -0.2356]])
# Define our linear layer linear_layer = nn.Linear( in_features=3, out_features=2 )
# Pass input through linear layer output = linear_layer(input_tensor) print(output)
Nhập môn Deep Learning với PyTorch

Thiết kế một mạng nơ-ron

Sơ đồ biểu diễn mạng nơ-ron cơ bản chỉ có đầu vào và đầu ra

$$ $$ $$

# Pass input through linear layer
output = linear_layer(input_tensor)
print(output)
tensor([[-0.2415, -0.1604]], 
    grad_fn=<AddmmBackward0>)
Nhập môn Deep Learning với PyTorch

Trọng số và độ chệch

output = linear_layer(input_tensor)

Biểu diễn phép toán tuyến tính

Nhập môn Deep Learning với PyTorch

Trọng số và độ chệch

  • .weight
    print(linear_layer.weight)
    
Parameter containing:
tensor([[-0.4799,  0.4996,  0.1123],
        [-0.0365, -0.1855,  0.0432]], 
        requires_grad=True)

$$

  • Phản ánh mức độ quan trọng của từng đặc trưng
  • .bias
    print(linear_layer.bias)
    
Parameter containing:
tensor([0.0310, 0.1537], requires_grad=True)

$$

$$

  • Cung cấp đầu ra cơ sở cho nơ-ron
Nhập môn Deep Learning với PyTorch

Mạng kết nối đầy đủ hoạt động

Sơ đồ biểu diễn mạng nơ-ron cơ bản chỉ có đầu vào và đầu ra

Nhập môn Deep Learning với PyTorch

Mạng kết nối đầy đủ hoạt động

Sơ đồ biểu diễn mạng nơ-ron cơ bản chỉ có đầu vào và đầu ra

Nhập môn Deep Learning với PyTorch

Mạng kết nối đầy đủ hoạt động

Sơ đồ biểu diễn mạng nơ-ron cơ bản chỉ có đầu vào và đầu ra

  • Đặc trưng độ ẩm sẽ có trọng số lớn hơn
  • Độ chệch để tính thông tin cơ sở
Nhập môn Deep Learning với PyTorch

Ayo berlatih!

Nhập môn Deep Learning với PyTorch

Preparing Video For Download...