De noodzaak van optimalisatie

Introductie tot Deep Learning in Python

Dan Becker

Data Scientist and contributor to Keras and TensorFlow libraries

Een basis-neuraal netwerk

ch2_1_v3.002.png

Introductie tot Deep Learning in Python

Een basis-neuraal netwerk

ch2_1_v3.003.png

Introductie tot Deep Learning in Python

Een basis-neuraal netwerk

ch2_1_v3.004.png

Introductie tot Deep Learning in Python

Een basis-neuraal netwerk

ch2_1_v3.005.png

Introductie tot Deep Learning in Python

Een basis-neuraal netwerk

ch2_1_v3.006.png

Introductie tot Deep Learning in Python

Een basis-neuraal netwerk

ch2_1_v3.007.png

Introductie tot Deep Learning in Python

Een basis-neuraal netwerk

ch2_1_v3.008.png

Introductie tot Deep Learning in Python

Een basis-neuraal netwerk

ch2_1_v3.009.png

Introductie tot Deep Learning in Python

Een basis-neuraal netwerk

ch2_1_v3.010.png

Introductie tot Deep Learning in Python

Voorspellingen met meerdere punten

  • Nauwkeurige voorspellingen worden lastiger met meer punten
  • Bij elke set gewichten zijn er veel foutwaarden
  • ... overeenkomend met de vele punten waarvoor we voorspellen
Introductie tot Deep Learning in Python

Verliesfunctie

  • Bundelt voorspellingsfouten van veel datapunten tot één getal
  • Maatstaf voor de voorspellende prestatie van het model
Introductie tot Deep Learning in Python

Kwadratische foutenverliesfunctie

ch2_1_v3.019.png

Introductie tot Deep Learning in Python

Kwadratische foutenverliesfunctie

ch2_1_v3.020.png

Introductie tot Deep Learning in Python

Kwadratische foutenverliesfunctie

ch2_1_v3.021.png

Introductie tot Deep Learning in Python

Verliesfunctie

ch2_1_v3.023.png

Introductie tot Deep Learning in Python

Verliesfunctie

ch2_1_v3.024.png

Introductie tot Deep Learning in Python

Verliesfunctie

ch2_1_v3.025.png

Introductie tot Deep Learning in Python

Verliesfunctie

  • Lager verlies betekent een beter model
  • Doel: vind de gewichten met de laagste verlieswaarde
  • Gradient descent
Introductie tot Deep Learning in Python

Gradient descent

  • Stel je een pikdonker veld voor
  • Je zoekt het laagste punt
  • Voel de helling van de grond
  • Zet een kleine stap bergaf
  • Herhaal tot het overal bergop is
Introductie tot Deep Learning in Python

Stappen van gradient descent

  • Begin op een willekeurig punt
  • Tot je vlak staat:
    • Bepaal de helling
    • Zet een stap bergaf
Introductie tot Deep Learning in Python

Optimaliseren met één gewicht

ch2_1_v3.042.png

Introductie tot Deep Learning in Python

Optimaliseren met één gewicht

ch2_1_v3.044.png

Introductie tot Deep Learning in Python

Optimaliseren met één gewicht

ch2_1_v3.045.png

Introductie tot Deep Learning in Python

Optimaliseren met één gewicht

ch2_1_v3.046.png

Introductie tot Deep Learning in Python

Optimaliseren met één gewicht

ch2_1_v3.047.png

Introductie tot Deep Learning in Python

Optimaliseren met één gewicht

ch2_1_v3.048.png

Introductie tot Deep Learning in Python

Optimaliseren met één gewicht

ch2_1_v3.049.png

Introductie tot Deep Learning in Python

Optimaliseren met één gewicht

ch2_1_v3.050.png

Introductie tot Deep Learning in Python

Optimaliseren met één gewicht

ch2_1_v3.051.png

Introductie tot Deep Learning in Python

Laten we oefenen!

Introductie tot Deep Learning in Python

Preparing Video For Download...