Selamat!

Model Transformer dengan PyTorch

James Chapman

Curriculum Manager, DataCamp

Bab 1

model = nn.Transformer(
    d_model=1536,
    nhead=8,
    num_encoder_layers=6,
    num_decoder_layers=6
)

class InputEmbeddings(nn.Module): ...
class PositionalEncoding(nn.Module): ...
class MultiHeadAttention(nn.Module): ...

Arsitektur transformer seperti pada makalah akademik, Attention Is All You Need.

Model Transformer dengan PyTorch

Transformer hanya-encoder

Arsitektur transformer hanya-encoder

Transformer hanya-decoder

Arsitektur transformer hanya-decoder

Model Transformer dengan PyTorch

Bab 2 - Transformer encoder-decoder

Arsitektur transformer asli

Model Transformer dengan PyTorch

Langkah selanjutnya?

Siklus pelatihan PyTorch.

Pelatihan

 

Sumber tambahan

Siklus hidup LLM

Transformer pralatih

Model Transformer dengan PyTorch

Ayo berlatih!

Model Transformer dengan PyTorch

Preparing Video For Download...