Tam kodlayıcı-kod çözücü modelini uygulama

Keras ile Machine Translation

Thushan Ganegedara

Data Scientist and Author

Şimdiye kadar ne uyguladınız

  • Kodlayıcı İngilizce (kaynak) girdiyi tüketir
  • Kodlayıcı bağlam vektörü üretir
  • Kod çözücü yinelenen bağlam vektörleri kümesini tüketir
  • Kod çözücü GRU çıktı dizisi üretir

Kodlayıcı kod çözücü modeli tekrar vektörü

Keras ile Machine Translation

Kod çözücünün üst kısmı

  • TimeDistributed ve Dense katmanlarıyla uygulandı.

TimeDistributed ile kod çözücü üst kısmı

Keras ile Machine Translation

Tam modeli uygulama

  • Kodlayıcı

    en_inputs = Input(shape=(en_len, en_vocab))
en_gru = GRU(hsize, return_state=True)
en_out, en_state = en_gru(en_inputs)

  • Kod çözücü

    de_inputs = RepeatVector(fr_len)(en_state)
de_gru = GRU(hsize, return_sequences=True)
de_out = de_gru(de_inputs, initial_state=en_state)
Keras ile Machine Translation

Tam modeli uygulama

  • Softmax tahmin katmanı 
de_dense = keras.layers.Dense(fr_vocab, activation='softmax')
de_dense_time = keras.layers.TimeDistributed(de_dense)
de_pred = de_seq_dense(de_out)
Keras ile Machine Translation

Modeli derleme

Tam modeli tanımlama

nmt = keras.models.Model(inputs=en_inputs, outputs=de_pred)

Modeli derleme

nmt.compile(optimizer='adam', loss='categorical_crossentropy', metrics=['acc'])
Keras ile Machine Translation

Hadi pratik yapalım!

Keras ile Machine Translation

Preparing Video For Download...