Gratulujeme!

Rekurentní neuronové sítě (RNN) pro jazykové modelování s Keras

David Cecchini

Data Scientist

Shrnutí

• Úvod do jazykových úloh:
  • Klasifikace sentimentu
  • Vícetřídní klasifikace
  • Generování textu
  • Neuronový strojový překlad
• Modely sekvence na sekvenci
• Implementace v Keras

Úskalí RNN a různé typy buněk

• Problémy mizejícího a explodujícího gradientu
• Buňky GRU a LSTM
• Slovní vektory a vrstva Embedding
• Lepší analýza sentimentu

Vícetřídní klasifikace

• Příprava dat
• Transfer learning
• Modely Keras
• Výkon modelu

Generování textu a NMT

• Generování textu
  • Znaky jako tokeny
  • Příprava dat
  • Generování vět napodobujících Sheldona
• Neuronový strojový překlad
  • Slova jako tokeny
  • Příprava dat: enkodéry a dekodéry
  • Překlad z portugalštiny do angličtiny

Gratulujeme!!!

Rekurentní neuronové sítě (RNN) pro jazykové modelování s Keras