為何需要最佳化

Python 深度學習入門

Dan Becker

Data Scientist and contributor to Keras and TensorFlow libraries

基準神經網路

ch2_1_v3.002.png

基準神經網路

ch2_1_v3.003.png

基準神經網路

ch2_1_v3.004.png

基準神經網路

ch2_1_v3.005.png

基準神經網路

ch2_1_v3.006.png

基準神經網路

ch2_1_v3.007.png

基準神經網路

ch2_1_v3.008.png

基準神經網路

ch2_1_v3.009.png

基準神經網路

ch2_1_v3.010.png

多點預測

點越多，預測越難
固定一組權重時，誤差有多個數值
……對應於我們對多個點所做的預測

損失函式

將多個資料點的預測誤差彙整為單一數值
衡量模型的預測表現

平方誤差損失函式

ch2_1_v3.019.png

平方誤差損失函式

ch2_1_v3.020.png

平方誤差損失函式

ch2_1_v3.021.png

損失函式

ch2_1_v3.023.png

損失函式

ch2_1_v3.024.png

損失函式

ch2_1_v3.025.png

損失函式

損失越小，模型越好
目標：找到讓損失函式最小的權重
梯度下降

梯度下降

想像你在伸手不見五指的野地
想找到最低點
用手感覺地面的坡度
朝下坡小步前進
重複直到各方向都是上坡

梯度下降步驟

從隨機點開始
直到來到相對平坦處：
- 找到坡度
- 向下坡邁一步

單一權重模型的最佳化

ch2_1_v3.042.png

單一權重模型的最佳化

ch2_1_v3.044.png

單一權重模型的最佳化

ch2_1_v3.045.png

單一權重模型的最佳化

ch2_1_v3.046.png

單一權重模型的最佳化

ch2_1_v3.047.png

單一權重模型的最佳化

ch2_1_v3.048.png

單一權重模型的最佳化

ch2_1_v3.049.png

單一權重模型的最佳化

ch2_1_v3.050.png

單一權重模型的最佳化

ch2_1_v3.051.png

一起來練習吧！

Python 深度學習入門

Preparing Video For Download...