Функції активації

Вступ до Deep Learning у Python

Dan Becker

Data Scientist and contributor to Keras and TensorFlow libraries

Лінійні й нелінійні функції

ch1_3.003.png

Вступ до Deep Learning у Python

Функції активації

  • Застосовуються до входів вузла, щоб отримати його вихід
Вступ до Deep Learning у Python

Покращуємо нашу нейромережу

ch1_3.007.png

Вступ до Deep Learning у Python

Функції активації

ch1_3.009.png

Вступ до Deep Learning у Python

ReLU (Rectified Linear Unit)

ch1_3.011.png

Вступ до Deep Learning у Python

Функції активації

import numpy as np
input_data = np.array([-1, 2])
weights = {'node_0': np.array([3, 3]),
               'node_1': np.array([1, 5]),
               'output': np.array([2, -1])}
node_0_input = (input_data * weights['node_0']).sum()
node_0_output = np.tanh(node_0_input)
node_1_input = (input_data * weights['node_1']).sum()
node_1_output = np.tanh(node_1_input)
hidden_layer_outputs = np.array([node_0_output, node_1_output])
output = (hidden_layer_output * weights['output']).sum()

print(output)

1.2382242525694254
Вступ до Deep Learning у Python

Давайте потренуємось!

Вступ до Deep Learning у Python

Preparing Video For Download...