Вітаємо!

Recurrent Neural Networks (RNNs) для моделювання мови з Keras

David Cecchini

Data Scientist

Підсумок

• Вступ до мовних задач:
  • Класифікація тональності
  • Багатокласова класифікація
  • Генерація тексту
  • Нейронний машинний переклад
• Моделі «послідовність у послідовність»
• Реалізація в Keras

Підводні камені RNN і типи комірок

• Проблеми зникних і вибухових градієнтів
• Комірки GRU та LSTM
• Словникові вектори й шар Embedding
• Кращий аналіз тональності

Багатокласова класифікація

• Підготовка даних
• Трансферне навчання
• Моделі Keras
• Ефективність моделі

Генерація тексту та NMT

• Генерація тексту
  • Символи як токени
  • Підготовка даних
  • Генерація речень у стилі Шелдона
• Нейронний машинний переклад
  • Слова як токени
  • Підготовка даних: енкодери та декодери
  • Переклад з португальської на англійську

Вітаємо!!!

Recurrent Neural Networks (RNNs) для моделювання мови з Keras