Potrzeba optymalizacji

Wprowadzenie do uczenia głębokiego w Pythonie

Dan Becker

Data Scientist and contributor to Keras and TensorFlow libraries

Bazowa sieć neuronowa

ch2_1_v3.002.png

Wprowadzenie do uczenia głębokiego w Pythonie

Bazowa sieć neuronowa

ch2_1_v3.003.png

Wprowadzenie do uczenia głębokiego w Pythonie

Bazowa sieć neuronowa

ch2_1_v3.004.png

Wprowadzenie do uczenia głębokiego w Pythonie

Bazowa sieć neuronowa

ch2_1_v3.005.png

Wprowadzenie do uczenia głębokiego w Pythonie

Bazowa sieć neuronowa

ch2_1_v3.006.png

Wprowadzenie do uczenia głębokiego w Pythonie

Bazowa sieć neuronowa

ch2_1_v3.007.png

Wprowadzenie do uczenia głębokiego w Pythonie

Bazowa sieć neuronowa

ch2_1_v3.008.png

Wprowadzenie do uczenia głębokiego w Pythonie

Bazowa sieć neuronowa

ch2_1_v3.009.png

Wprowadzenie do uczenia głębokiego w Pythonie

Bazowa sieć neuronowa

ch2_1_v3.010.png

Wprowadzenie do uczenia głębokiego w Pythonie

Predykcje dla wielu punktów

  • Dokładne przewidywania są trudniejsze przy większej liczbie punktów
  • Przy każdym zestawie wag istnieje wiele wartości błędu
  • ... odpowiadających wielu punktom, dla których tworzymy prognozy
Wprowadzenie do uczenia głębokiego w Pythonie

Funkcja straty

  • Agreguje błędy predykcji z wielu punktów danych w jedną liczbę
  • Miara zdolności predykcyjnej modelu
Wprowadzenie do uczenia głębokiego w Pythonie

Kwadratowa funkcja straty

ch2_1_v3.019.png

Wprowadzenie do uczenia głębokiego w Pythonie

Kwadratowa funkcja straty

ch2_1_v3.020.png

Wprowadzenie do uczenia głębokiego w Pythonie

Kwadratowa funkcja straty

ch2_1_v3.021.png

Wprowadzenie do uczenia głębokiego w Pythonie

Funkcja straty

ch2_1_v3.023.png

Wprowadzenie do uczenia głębokiego w Pythonie

Funkcja straty

ch2_1_v3.024.png

Wprowadzenie do uczenia głębokiego w Pythonie

Funkcja straty

ch2_1_v3.025.png

Wprowadzenie do uczenia głębokiego w Pythonie

Funkcja straty

  • Niższa wartość funkcji straty oznacza lepszy model
  • Cel: znalezienie wag dających najniższą wartość funkcji straty
  • Gradient descent
Wprowadzenie do uczenia głębokiego w Pythonie

Gradient descent

  • Wyobraź sobie, że stoisz na ciemnym polu
  • Chcesz znaleźć najniższy punkt
  • Sprawdzasz stopą, w którą stronę opada teren
  • Robisz mały krok w dół
  • Powtarzasz, aż w każdym kierunku teren idzie w górę
Wprowadzenie do uczenia głębokiego w Pythonie

Kroki gradient descent

  • Zacznij od losowego punktu
  • Dopóki teren nie jest płaski:
    • Wyznacz nachylenie
    • Zrób krok w dół
Wprowadzenie do uczenia głębokiego w Pythonie

Optymalizacja modelu z jedną wagą

ch2_1_v3.042.png

Wprowadzenie do uczenia głębokiego w Pythonie

Optymalizacja modelu z jedną wagą

ch2_1_v3.044.png

Wprowadzenie do uczenia głębokiego w Pythonie

Optymalizacja modelu z jedną wagą

ch2_1_v3.045.png

Wprowadzenie do uczenia głębokiego w Pythonie

Optymalizacja modelu z jedną wagą

ch2_1_v3.046.png

Wprowadzenie do uczenia głębokiego w Pythonie

Optymalizacja modelu z jedną wagą

ch2_1_v3.047.png

Wprowadzenie do uczenia głębokiego w Pythonie

Optymalizacja modelu z jedną wagą

ch2_1_v3.048.png

Wprowadzenie do uczenia głębokiego w Pythonie

Optymalizacja modelu z jedną wagą

ch2_1_v3.049.png

Wprowadzenie do uczenia głębokiego w Pythonie

Optymalizacja modelu z jedną wagą

ch2_1_v3.050.png

Wprowadzenie do uczenia głębokiego w Pythonie

Optymalizacja modelu z jedną wagą

ch2_1_v3.051.png

Wprowadzenie do uczenia głębokiego w Pythonie

Czas na ćwiczenia!

Wprowadzenie do uczenia głębokiego w Pythonie

Preparing Video For Download...