Поздравляем!

Рекуррентные нейронные сети (RNN) для языкового моделирования с Keras

David Cecchini

Data Scientist

Итоги

• Введение в языковые задачи:
  • Классификация тональности
  • Многоклассовая классификация
  • Генерация текста
  • Нейронный машинный перевод
• Модели «последовательность в последовательность»
• Реализация в Keras

Проблемы RNN и типы ячеек

• Проблемы затухающего и взрывного градиента
• Ячейки GRU и LSTM
• Векторы слов и слой Embedding
• Улучшенный анализ тональности

Многоклассовая классификация

• Подготовка данных
• Трансферное обучение
• Модели Keras
• Качество модели

Генерация текста и нейронный машинный перевод

• Генерация текста
  • Символы как токены
  • Подготовка данных
  • Генерация фраз в стиле Шелдона
• Нейронный машинный перевод
  • Слова как токены
  • Подготовка данных: энкодеры и декодеры
  • Перевод с португальского на английский

Поздравляем!!!

Рекуррентные нейронные сети (RNN) для языкового моделирования с Keras