全连接层

Python 中的 TensorFlow 入门

Isaiah Hull

Visiting Associate Professor of Finance, BI Norwegian Business School

线性回归模型

该图展示了一个线性回归模型,含两个特征:婚姻状况与年龄。回归的目标是信用卡借款人的违约状态。

Python 中的 TensorFlow 入门

什么是神经网络?

该图展示了一个神经网络,包含两个特征输入:婚姻状况与年龄。网络的目标是信用卡借款人的违约状态。

Python 中的 TensorFlow 入门

什么是神经网络?

该图展示了更复杂的神经网络:10 个输入特征、3 个全连接隐藏层和一个输出层。

  • 全连接层会对前一层的所有节点施加权重。
Python 中的 TensorFlow 入门

一个简单的全连接层

import tensorflow as tf
# Define inputs (features)
inputs = tf.constant([[1, 35]])
# Define weights
weights = tf.Variable([[-0.05], [-0.01]])
# Define the bias
bias = tf.Variable([0.5])
Python 中的 TensorFlow 入门

一个简单的全连接层

# Multiply inputs (features) by the weights
product = tf.matmul(inputs, weights)
# Define dense layer
dense = tf.keras.activations.sigmoid(product+bias)

该示意图展示了一个全连接层,接收两个输入节点并产生一个输出。

Python 中的 TensorFlow 入门

定义完整模型

import tensorflow as tf
# Define input (features) layer
inputs = tf.constant(data, tf.float32)
# Define first dense layer
dense1 = tf.keras.layers.Dense(10, activation='sigmoid')(inputs)
Python 中的 TensorFlow 入门

定义完整模型

# Define second dense layer
dense2 = tf.keras.layers.Dense(5, activation='sigmoid')(dense1)
# Define output (predictions) layer
outputs =  tf.keras.layers.Dense(1, activation='sigmoid')(dense2)

该示意图展示了一个全连接层,接收两个输入节点并产生一个输出。

Python 中的 TensorFlow 入门

高层 vs 低层方法

  • 高层方法
    • 高层 API 操作
dense = keras.layers.Dense(10,\
 activation='sigmoid')
  • 低层方法
    • 线性代数操作
prod = matmul(inputs, weights)
dense = keras.activations.sigmoid(prod)
Python 中的 TensorFlow 入门

让我们来练习!

Python 中的 TensorFlow 入门

Preparing Video For Download...