Necesitatea optimizării

Introducere în Deep Learning în Python

Dan Becker

Data Scientist and contributor to Keras and TensorFlow libraries

O rețea neuronală de referință

ch2_1_v3.002.png

Introducere în Deep Learning în Python

O rețea neuronală de referință

ch2_1_v3.003.png

Introducere în Deep Learning în Python

O rețea neuronală de referință

ch2_1_v3.004.png

Introducere în Deep Learning în Python

O rețea neuronală de referință

ch2_1_v3.005.png

Introducere în Deep Learning în Python

O rețea neuronală de referință

ch2_1_v3.006.png

Introducere în Deep Learning în Python

O rețea neuronală de referință

ch2_1_v3.007.png

Introducere în Deep Learning în Python

O rețea neuronală de referință

ch2_1_v3.008.png

Introducere în Deep Learning în Python

O rețea neuronală de referință

ch2_1_v3.009.png

Introducere în Deep Learning în Python

O rețea neuronală de referință

ch2_1_v3.010.png

Introducere în Deep Learning în Python

Predicții cu mai multe puncte

  • Predicțiile precise devin mai dificile cu mai multe puncte
  • Pentru orice set de ponderi, există mai multe valori ale erorii
  • ... corespunzând punctelor pentru care facem predicții
Introducere în Deep Learning în Python

Funcția de pierdere

  • Agregă erorile din predicții ale multor puncte într-un singur număr
  • Măsoară performanța predictivă a modelului
Introducere în Deep Learning în Python

Funcția de pierdere pătratică

ch2_1_v3.019.png

Introducere în Deep Learning în Python

Funcția de pierdere pătratică

ch2_1_v3.020.png

Introducere în Deep Learning în Python

Funcția de pierdere pătratică

ch2_1_v3.021.png

Introducere în Deep Learning în Python

Funcția de pierdere

ch2_1_v3.023.png

Introducere în Deep Learning în Python

Funcția de pierdere

ch2_1_v3.024.png

Introducere în Deep Learning în Python

Funcția de pierdere

ch2_1_v3.025.png

Introducere în Deep Learning în Python

Funcția de pierdere

  • O valoare mai mică a funcției de pierdere înseamnă un model mai bun
  • Obiectiv: găsirea ponderilor care minimizează funcția de pierdere
  • Coborârea gradientului
Introducere în Deep Learning în Python

Coborârea gradientului

  • Imaginați-vă că vă aflați pe un câmp complet întunecat
  • Doriți să găsiți cel mai jos punct
  • Simțiți solul pentru a determina panta
  • Faceți un pas în jos pe pantă
  • Repetați până când orice direcție este ascendentă
Introducere în Deep Learning în Python

Pașii coborârii gradientului

  • Porniți dintr-un punct aleatoriu
  • Până ajungeți pe un teren plat:
    • Calculați panta
    • Faceți un pas în jos pe pantă
Introducere în Deep Learning în Python

Optimizarea unui model cu o singură pondere

ch2_1_v3.042.png

Introducere în Deep Learning în Python

Optimizarea unui model cu o singură pondere

ch2_1_v3.044.png

Introducere în Deep Learning în Python

Optimizarea unui model cu o singură pondere

ch2_1_v3.045.png

Introducere în Deep Learning în Python

Optimizarea unui model cu o singură pondere

ch2_1_v3.046.png

Introducere în Deep Learning în Python

Optimizarea unui model cu o singură pondere

ch2_1_v3.047.png

Introducere în Deep Learning în Python

Optimizarea unui model cu o singură pondere

ch2_1_v3.048.png

Introducere în Deep Learning în Python

Optimizarea unui model cu o singură pondere

ch2_1_v3.049.png

Introducere în Deep Learning în Python

Optimizarea unui model cu o singură pondere

ch2_1_v3.050.png

Introducere în Deep Learning în Python

Optimizarea unui model cu o singură pondere

ch2_1_v3.051.png

Introducere în Deep Learning în Python

Să exersăm!

Introducere în Deep Learning în Python

Preparing Video For Download...