Gratulacje!

Rekurencyjne sieci neuronowe (RNN) do modelowania języka w Keras

David Cecchini

Data Scientist

Podsumowanie

• Wprowadzenie do zadań językowych:
  • Klasyfikacja sentymentu
  • Klasyfikacja wieloklasowa
  • Generowanie tekstu
  • Neuronowe tłumaczenie maszynowe
• Modele sekwencja-sekwencja
• Implementacja w Keras

Pułapki RNN i typy komórek

• Problemy zanikającego i eksplodującego gradientu
• Komórki GRU i LSTM
• Wektory słów i warstwa Embedding
• Lepsza analiza sentymentu

Klasyfikacja wieloklasowa

• Przygotowanie danych
• Transfer wiedzy
• Modele Keras
• Wydajność modelu

Generowanie tekstu i NMT

• Generowanie tekstu
  • Znaki jako tokeny
  • Przygotowanie danych
  • Generowanie zdań w stylu Sheldona
• Neuronowe tłumaczenie maszynowe
  • Słowa jako tokeny
  • Przygotowanie danych: kodery i dekodery
  • Tłumaczenie z portugalskiego na angielski

Gratulacje!!!

Rekurencyjne sieci neuronowe (RNN) do modelowania języka w Keras