Geri yayılım

Python ile Deep Learning'e Giriş

Dan Becker

Data Scientist and contributor to Keras and TensorFlow libraries

Geri yayılım

Geri yayılım

Geri yayılım

Geri yayılım

• Tüm ağdaki ağırlıkları güncellemek için gradyan inişine olanak tanır (tüm ağırlıkların gradyanlarını bularak)
• Analizde zincir kuralından gelir
• Süreci anlamak önemlidir; ancak genelde bunu uygulayan bir kütüphane kullanırsınız

Geri yayılım süreci

• Her ağırlığa göre kayıp fonksiyonunun eğimini tahmin etmek
• Tahmin ve hataları hesaplamak için ileri yayılım yapın

Geri yayılım süreci

Geri yayılım süreci

Geri yayılım süreci

• Katman katman geriye gidin
• Ağırlık gradyanı şu çarpımdır:
  1. O ağırlığa giren düğüm değeri
  2. Beslediği düğüme göre kayıp fonksiyonunun eğimi
  3. Beslediği düğümde aktivasyon fonksiyonunun eğimi

ReLU aktivasyon fonksiyonu

Geri yayılım süreci

• Kayıp fonksiyonunun düğüm değerlerine göre eğimlerini de takip edin
• Düğüm değerlerinin eğimi, onlardan çıkan tüm ağırlıkların eğimlerinin toplamıdır

Haydi pratik yapalım!

Python ile Deep Learning'e Giriş