न्यूरल नेटवर्क रेग्युलराइज़ेशन

Keras के साथ Image Modeling

Ariel Rokem

Senior Data Scientist, University of Washington

ड्रॉपआउट

हर लर्निंग स्टेप में:

यूनिट्स का एक सबसेट चुनें
फॉरवर्ड पास में इन्हें नज़रअंदाज़ करें
और एरर की बैक-प्रोपेगेशन में भी

ड्रॉपआउट

Keras में ड्रॉपआउट

from keras.models import Sequential
from keras.layers import Dense, Conv2D, Flatten, Dropout

model = Sequential()
model.add(Conv2D(5, kernel_size=3, activation='relu', 
              input_shape=(img_rows, img_cols, 1)))

model.add(Dropout(0.25))

model.add(Conv2D(15, kernel_size=3, activation='relu'))
model.add(Flatten())
model.add(Dense(3, activation='softmax'))

बैच नॉर्मलाइज़ेशन

आउटपुट को रीस्केल करें

Keras में बैच नॉर्मलाइज़ेशन

from keras.models import Sequential
from keras.layers import Dense, Conv2D, Flatten, BatchNormalization 


model = Sequential()
model.add(Conv2D(5, kernel_size=3, activation='relu', 
              input_shape=(img_rows, img_cols, 1)))

model.add(BatchNormalization())

model.add(Conv2D(15, kernel_size=3, activation='relu'))
model.add(Flatten())
model.add(Dense(3, activation='softmax'))

इन्हें साथ इस्तेमाल करते समय सावधान रहें!

ड्रॉपआउट और बैच नॉर्मलाइज़ेशन के बीच असंगति

अभ्यास करते हैं!

Keras के साथ Image Modeling