Geri yayılım uygulamada

Python ile Deep Learning'e Giriş

Dan Becker

Data Scientist and contributor to Keras and TensorFlow libraries

Geri yayılım

Geri yayılım

Geri yayılım

Geri yayılım

Herhangi bir ağırlığa ilişkin eğimleri hesaplama

• Bir ağırlığın gradyanı şu çarpımdır:
  1. O ağırlığa giren düğüm değeri
  2. Girilen düğümün aktivasyon fonksiyonunun eğimi
  3. Çıkış düğümüne göre kayıp fonksiyonunun eğimi

Geri yayılım

Geri yayılım

Geri yayılım

Geri yayılım

Geri yayılım

Geri yayılım

Geri yayılım: Özet

• Rastgele bir ağırlık kümesiyle başlayın
• Tahmin yapmak için ileri yayılım kullanın
• Kayıp fonksiyonunun her ağırlığa göre eğimini geri yayılımla hesaplayın
• Bu eğimi öğrenme oranıyla çarpın ve mevcut ağırlıklardan çıkarın
• Düz bir bölgeye ulaşana kadar döngüye devam edin

Stokastik gradyan inişi

• Eğimler genellikle verinin bir altkümesinde (batch) hesaplanır
• Sonraki güncelleme için farklı bir batch kullanın
• Tüm veri bitince başa dönün
• Eğitim verisinden her geçişe epoch denir
• Eğimler tek tek batch’lerde hesaplanırsa: stokastik gradyan inişi

Hadi pratik yapalım!

Python ile Deep Learning'e Giriş