TensorFlow में नेटवर्क ट्रेन करना

Python में TensorFlow परिचय

Isaiah Hull

Visiting Associate Professor of Finance, BI Norwegian Business School

यह चित्र eggholder नाम के जटिल objective function का 3D-plot दिखाता है.

Random initializers

अक्सर हजारों वैरिएबल initialize करने होते हैं
- tf.ones() कमज़ोर perform कर सकता है
- हर वैरिएबल अलग-अलग initialize करना थकाऊ और कठिन है
विकल्प: distribution से initial values लें
- Normal
- Uniform
- Glorot initializer

TensorFlow में वैरिएबल initialize करना

import tensorflow as tf

# Define 500x500 random normal variable
weights = tf.Variable(tf.random.normal([500, 500]))

# Define 500x500 truncated random normal variable
weights = tf.Variable(tf.random.truncated_normal([500, 500]))

TensorFlow में वैरिएबल initialize करना

# Define a dense layer with the default initializer
dense = tf.keras.layers.Dense(32, activation='relu')

# Define a dense layer with the zeros initializer
dense = tf.keras.layers.Dense(32, activation='relu',\
    kernel_initializer='zeros')

न्यूरल नेटवर्क और overfitting

यह चित्र training set में simple और complex मॉडलों की predictions दिखाता है.

यह चित्र validation set में simple और complex मॉडलों की predictions दिखाता है.

Dropout लागू करना

यह चित्र बिना dropout वाला न्यूरल नेटवर्क दिखाता है.

यह चित्र random nodes पर लागू dropout वाला न्यूरल नेटवर्क दिखाता है.

नेटवर्क में dropout लागू करना

import numpy as np
import tensorflow as tf

# Define input data
inputs = np.array(borrower_features, np.float32)

# Define dense layer 1
dense1 = tf.keras.layers.Dense(32, activation='relu')(inputs)

नेटवर्क में dropout लागू करना

# Define dense layer 2
dense2 = tf.keras.layers.Dense(16, activation='relu')(dense1)

# Apply dropout operation
dropout1 = tf.keras.layers.Dropout(0.25)(dense2)

# Define output layer
outputs = tf.keras.layers.Dense(1, activation='sigmoid')(dropout1)

अभ्यास करते हैं!

Python में TensorFlow परिचय