Diziden diziye Modeller

Keras ile Dil Modellemesi için Yinelenen Sinir Ağları (RNN)

David Cecchini

Instructor

Diziden diziye

Olası mimariler:

# Önceden eğitilmiş model
model.generate_sheldon_phrase()

'knock knock. penny. do you have an epost is part in your expert, 
too bealie to play the tariment with last night.'

Metin üretim modeli nasıl kurulur:

Token birimi: karakter mi kelime mi?
- Kelimeler için çok büyük veri gerekir (yüz milyonlarca cümle)
- Karakterler daha hızlı eğitilir, ancak yazım hataları üretebilir
Veriyi hazırla
- Eğitim örnekleri: (geçmiş tokenlar, sonraki token)
Model mimarisini tasarla
- Gömme katmanı, katman sayısı vb.
Eğit ve dene

Nöral Makine Çevirisi: örnek

# Önceden eğitilmiş model
model.translate("Vamos jogar futebol?")

'Let's go play soccer?'

NMT modeli nasıl kurulur:

Çevrilmiş cümle örnekleri topla
- Örneğin, Anki projesi
Veriyi hazırla
- Girdi dilindeki cümleleri tokenle
- Çıktı dilindeki cümleleri tokenle
Model mimarisini tasarla
- Kodlayıcı ve kod çözücü
Eğit ve dene

Bu bölümde:

Metin Üretimi
- Önceden eğitilmiş modelle cümle üretme
- Veriyi hazırlamayı ve modeli kurmayı öğrenme
Nöral Makine Çevirisi (NMT)
- Hepsi-bir-arada NMT modeli

Keras ile Dil Modellemesi için Yinelenen Sinir Ağları (RNN)