Encoder-decoder-arkitektur

Maskinöversättning med Keras

Thushan Ganegedara

Data Scientist and Author

Encoder-decoder-modell

Maskinöversättningsmodell

Maskinöversättning med Keras

Encoder

Encoder

Maskinöversättning med Keras

Encoder och decoder

Encoder-decoder

Maskinöversättning med Keras

Analogi: encoder-decoder-arkitektur

Encoder-analogi

Decoder-analogi

Maskinöversättning med Keras

Vända meningar – encoder-decoder-modell

Encoder-decoder textvändning

Maskinöversättning med Keras

Skriva encodern

def words2onehot(word_list, word2index):
  word_ids = [word2index[w] for w in word_list]
  onehot = to_categorical(word_ids, 3)
  return onehot
def encoder(onehot):
  word_ids = np.argmax(onehot, axis=1)
  return word_ids
Maskinöversättning med Keras

Skriva encodern

onehot = words2onehot(["I", "like", "cats"], word2index)
context = encoder(onehot)
print(context)
[0, 1, 2]
Maskinöversättning med Keras

Skriva decodern

  • Decoder: ord-ID → vänd ID:n → one-hot-vektorer
def decoder(context_vector):
  word_ids_rev = context_vector[::-1]
  onehot_rev = to_categorical(word_ids_rev, 3)
  return onehot_rev
  • Hjälpfunktion: konvertera one-hot-vektorer till läsbara ord
def onehot2words(onehot, index2word):
  ids = np.argmax(onehot, axis=1)
  return [index2word[id] for id in ids]
Maskinöversättning med Keras

Skriva decodern

onehot_rev = decoder(context)
reversed_words = onehot2words(onehot_rev, index2word)

print(reversed_words)
['cats', 'like', 'I']
Maskinöversättning med Keras

Nu kör vi en övning!

Maskinöversättning med Keras

Preparing Video For Download...