TensorFlow'da ağ eğitimi

Python ile TensorFlow’a Giriş

Isaiah Hull

Visiting Associate Professor of Finance, BI Norwegian Business School

Görsel, eggholder adlı karmaşık bir amaç fonksiyonunun 3B grafiğini gösteriyor.

Rastgele başlatıcılar

Sıklıkla binlerce değişkeni başlatmak gerekir
- tf.ones() zayıf performans gösterebilir
- Değişkenleri tek tek başlatmak zahmetli ve zordur
Alternatif: başlangıç değerlerini bir dağılımdan çekin
- Normal
- Uniform
- Glorot başlatıcı

TensorFlow'da değişken başlatma

import tensorflow as tf

# Define 500x500 random normal variable
weights = tf.Variable(tf.random.normal([500, 500]))

# Define 500x500 truncated random normal variable
weights = tf.Variable(tf.random.truncated_normal([500, 500]))

TensorFlow'da değişken başlatma

# Define a dense layer with the default initializer
dense = tf.keras.layers.Dense(32, activation='relu')

# Define a dense layer with the zeros initializer
dense = tf.keras.layers.Dense(32, activation='relu',\
    kernel_initializer='zeros')

Sinir ağları ve aşırı uyum

Görsel, eğitim setinde basit ve karmaşık modellerin tahminlerini gösteriyor.

Görsel, doğrulama setinde basit ve karmaşık modellerin tahminlerini gösteriyor.

Dropout uygulama

Bu görsel, dropout olmadan bir sinir ağını gösteriyor.

Bu görsel, rastgele düğümlere dropout uygulanmış bir sinir ağını gösteriyor.

Ağda dropout uygulama

import numpy as np
import tensorflow as tf

# Define input data
inputs = np.array(borrower_features, np.float32)

# Define dense layer 1
dense1 = tf.keras.layers.Dense(32, activation='relu')(inputs)

Ağda dropout uygulama

# Define dense layer 2
dense2 = tf.keras.layers.Dense(16, activation='relu')(dense1)

# Apply dropout operation
dropout1 = tf.keras.layers.Dropout(0.25)(dense2)

# Define output layer
outputs = tf.keras.layers.Dense(1, activation='sigmoid')(dropout1)

¡Vamos a practicar!

Python ile TensorFlow’a Giriş