Yığın boyutu ve yığın normalleştirme

Keras ile Deep Learning'e Giriş

Miguel Esteban

Data Scientist & Founder

Mini-yığınlar

Avantajlar

Ağlar daha hızlı eğitilir (aynı sürede daha çok ağırlık güncellemesi)
Daha az RAM gerekir; çok büyük veri kümelerinde eğitim yapılabilir
Gürültü, yerel minimumlardan kaçıp daha düşük hataya ulaşmaya yardım edebilir

Dezavantajlar

Daha fazla yineleme gerekir
Ayarlama gerekir; iyi bir yığın boyutu bulunmalıdır

¹ Stack Exchange

Keras'ta yığın boyutu

# Önceden oluşturulmuş ve derlenmiş modeli eğitme
model.fit(X_train, y_train, epochs=100, batch_size=128)
                                        ^^^^^^^^^^^^^^

Yığın normalleştirmenin avantajları

Gradyan akışını iyileştirir
Daha yüksek öğrenme oranlarına izin verir
Ağırlık başlatmalarına bağımlılığı azaltır
İstenmeden düzenlileştirme etkisi yapar
İç değişkenlik kaymasını sınırlar

Keras'ta yığın normalleştirme

# Keras katmanlarından BatchNormalization'ı içe aktarın
from tensorflow.keras.layers import BatchNormalization

# Bir Sequential model başlatın
model = Sequential()

# Bir giriş katmanı ekleyin
model.add(Dense(3, input_shape=(2,), activation = 'relu'))

# Üstteki katmanın çıktılarına yığın normalleştirme ekleyin
model.add(BatchNormalization())

# Bir çıkış katmanı ekleyin
model.add(Dense(1, activation='sigmoid'))

Hadi pratik yapalım!

Keras ile Deep Learning'e Giriş