Chúc mừng bạn!

Mạng nơ-ron hồi quy (RNN) cho Mô hình ngôn ngữ với Keras

David Cecchini

Data Scientist

Tổng kết

• Giới thiệu các tác vụ ngôn ngữ:
  • Phân loại cảm xúc
  • Phân loại đa lớp
  • Sinh văn bản
  • Dịch máy neural
• Mô hình sequence-to-sequence
• Triển khai với Keras

Cạm bẫy RNN và các loại ô khác nhau

• Vấn đề tiêu biến và bùng nổ gradient
• Ô GRU và LSTM
• Vector từ và lớp Embedding
• Phân tích cảm xúc tốt hơn

Phân loại đa lớp

• Chuẩn bị dữ liệu
• Học chuyển giao
• Mô hình Keras
• Hiệu năng mô hình

Sinh văn bản và NMT

• Sinh văn bản
  • Ký tự làm token
  • Chuẩn bị dữ liệu
  • Tạo câu bắt chước Sheldon
• Dịch máy neural
  • Từ làm token
  • Chuẩn bị dữ liệu: encoder và decoder
  • Dịch tiếng Bồ Đào Nha sang tiếng Anh

Chúc mừng bạn!!!

Mạng nơ-ron hồi quy (RNN) cho Mô hình ngôn ngữ với Keras