最適化の必要性

Pythonで学ぶDeep Learning入門

Dan Becker

Data Scientist and contributor to Keras and TensorFlow libraries

ベースラインのニューラルネットワーク

ch2_1_v3.002.png

ベースラインのニューラルネットワーク

ch2_1_v3.003.png

ベースラインのニューラルネットワーク

ch2_1_v3.004.png

ベースラインのニューラルネットワーク

ch2_1_v3.005.png

ベースラインのニューラルネットワーク

ch2_1_v3.006.png

ベースラインのニューラルネットワーク

ch2_1_v3.007.png

ベースラインのニューラルネットワーク

ch2_1_v3.008.png

ベースラインのニューラルネットワーク

ch2_1_v3.009.png

ベースラインのニューラルネットワーク

ch2_1_v3.010.png

複数点での予測

点が増えると予測は難しくなる
任意の重みに対し、誤差は多くの値を取る
予測する多数の点に対応するため

損失関数

多数のデータ点の予測誤差を1つの数に集約
モデルの予測性能の指標

二乗誤差の損失関数

ch2_1_v3.019.png

二乗誤差の損失関数

ch2_1_v3.020.png

二乗誤差の損失関数

ch2_1_v3.021.png

損失関数

ch2_1_v3.023.png

損失関数

ch2_1_v3.024.png

損失関数

ch2_1_v3.025.png

損失関数

損失が低いほどモデルは良い
目的: 損失を最小にする重みを見つける
勾配降下法

勾配降下法

真っ暗な野原にいると想像する
一番低い地点を探す
傾きを手探りで確かめる
少し下り方向に進む
どの方向も上りになるまで繰り返す

勾配降下法の手順

ランダムな点から開始
平坦になるまで:
- 傾きを求める
- 下り方向に一歩進む

1つの重みのモデルを最適化

ch2_1_v3.042.png

1つの重みのモデルを最適化

ch2_1_v3.044.png

1つの重みのモデルを最適化

ch2_1_v3.045.png

1つの重みのモデルを最適化

ch2_1_v3.046.png

1つの重みのモデルを最適化

ch2_1_v3.047.png

1つの重みのモデルを最適化

ch2_1_v3.048.png

1つの重みのモデルを最適化

ch2_1_v3.049.png

1つの重みのモデルを最適化

ch2_1_v3.050.png

1つの重みのモデルを最適化

ch2_1_v3.051.png

練習してみましょう！

Pythonで学ぶDeep Learning入門

Preparing Video For Download...