Kursa giriş

Keras ile Dil Modellemesi için Yinelenen Sinir Ağları (RNN)

David Cecchini

Data Scientist

Metin verisi çevrimiçi mevcut

İnternetteki metin verisi örnekleri gösterilir: haberler, büyük internet şirketleri vb.

Metin verisine makine öğrenimi uygulamaları

Dört uygulama:

Duygu analizi
Çok sınıflı sınıflandırma
Metin üretimi
Sinirsel makine çevirisi

Duygu analizi

İki Emoji gösterilir: biri mutlu yüz, diğeri beğenmeyen yüz

Çok sınıflı sınıflandırma

Film türleri, bilim kurgu, romantik vb. için sınıf temsilleri gösterilir

Metin üretimi

Bir sohbet uygulamasında makine üretimi metne örnek. Bir bağlantıdan sorgu gelince uygulama yanıtlar önerir.

Sinirsel makine çevirisi

Portekizce "Vamos jogar futebol esse domingo?" ifadesinin İngilizce "Let's play soccer this Sunday?" ifadesine çevirisine örnek gösterilir

Yinelemeli Sinir Ağları

RNN modelinin açılmış gösterimi; her kelime arasındaki ağırlıkların paylaşıldığı vurgulanır. Kelimeler sırayla modele girilir ve model son adımda sınıfın nihai tahminini yapar.

Diziden diziye modeller

Çoktan bire: sınıflandırma

Sınıflandırma problemleri için RNN mimarisi. Model yalnızca son kelimede tahmin yapar.

Diziden diziye modeller

Çoktan çoğa: metin üretimi

Metin üretim modeli mimarisi. Model iki kısma ayrılır: giriş metni ve üretilen metin. Giriş kısmında tahmin yalnız son adımda yapılır; üretim kısmında her adımda tahmin yapar ve ilk tahmini bir sonraki adıma giriş olarak kullanır.

Diziden diziye modeller

Çoktan çoğa: sinirsel makine çevirisi

Sinirsel Makine Çevirisi mimarisi. Mimari, giriş ve çıkış dili için sırasıyla kodlayıcı ve kod çözücü olarak ikiye ayrılır. Kodlayıcı giriş dili için, kod çözücü çıkış dili için bir dil modeli öğrenir. Kodlayıcının son durumu, başka girişi olmayan kod çözücüye aktarılır.

Diziden diziye modeller

Çoktan çoğa: dil modeli

Dil Modeli mimarisi. Model her adımda bir sonraki kelimeyi tahmin etmeye çalışır. Böylece her adımda tahmin yapar ve eğitimde ağırlıkları, dizideki bir sonraki kelimeyi daha iyi tahmin edecek şekilde ayarlar.

Ayo berlatih!

Keras ile Dil Modellemesi için Yinelenen Sinir Ağları (RNN)