Der Bedarf an Optimierung

Einführung in Deep Learning mit Python

Dan Becker

Data Scientist and contributor to Keras and TensorFlow libraries

Ein Basis-Neuronales Netz

ch2_1_v3.002.png

Einführung in Deep Learning mit Python

Ein Basis-Neuronales Netz

ch2_1_v3.003.png

Einführung in Deep Learning mit Python

Ein Basis-Neuronales Netz

ch2_1_v3.004.png

Einführung in Deep Learning mit Python

Ein Basis-Neuronales Netz

ch2_1_v3.005.png

Einführung in Deep Learning mit Python

Ein Basis-Neuronales Netz

ch2_1_v3.006.png

Einführung in Deep Learning mit Python

Ein Basis-Neuronales Netz

ch2_1_v3.007.png

Einführung in Deep Learning mit Python

Ein Basis-Neuronales Netz

ch2_1_v3.008.png

Einführung in Deep Learning mit Python

Ein Basis-Neuronales Netz

ch2_1_v3.009.png

Einführung in Deep Learning mit Python

Ein Basis-Neuronales Netz

ch2_1_v3.010.png

Einführung in Deep Learning mit Python

Vorhersagen mit mehreren Punkten

  • Genaue Vorhersagen werden mit mehr Punkten schwerer
  • Für jedes Gewicht-Set gibt es viele Fehlervarianten
  • ... entsprechend den vielen Punkten, für die wir vorhersagen
Einführung in Deep Learning mit Python

Verlustfunktion

  • Fasst Fehler vieler Datenpunkte zu einer Zahl zusammen
  • Maß für die Vorhersagegüte des Modells
Einführung in Deep Learning mit Python

Quadratischer Fehler (Loss)

ch2_1_v3.019.png

Einführung in Deep Learning mit Python

Quadratischer Fehler (Loss)

ch2_1_v3.020.png

Einführung in Deep Learning mit Python

Quadratischer Fehler (Loss)

ch2_1_v3.021.png

Einführung in Deep Learning mit Python

Verlustfunktion

ch2_1_v3.023.png

Einführung in Deep Learning mit Python

Verlustfunktion

ch2_1_v3.024.png

Einführung in Deep Learning mit Python

Verlustfunktion

ch2_1_v3.025.png

Einführung in Deep Learning mit Python

Verlustfunktion

  • Niedrigerer Loss bedeutet besseres Modell
  • Ziel: Gewichte finden, die den Loss minimieren
  • Gradient Descent
Einführung in Deep Learning mit Python

Gradient Descent

  • Stell dir ein stockdunkles Feld vor
  • Du suchst den tiefsten Punkt
  • Boden abtasten, Gefälle spüren
  • Kleinen Schritt bergab machen
  • Wiederholen, bis es in jede Richtung bergauf geht
Einführung in Deep Learning mit Python

Schritte beim Gradient Descent

  • Starte an einem Zufallspunkt
  • Bis es flach ist:
    • Steigung bestimmen
    • Schritt bergab gehen
Einführung in Deep Learning mit Python

Optimierung mit einem einzelnen Gewicht

ch2_1_v3.042.png

Einführung in Deep Learning mit Python

Optimierung mit einem einzelnen Gewicht

ch2_1_v3.044.png

Einführung in Deep Learning mit Python

Optimierung mit einem einzelnen Gewicht

ch2_1_v3.045.png

Einführung in Deep Learning mit Python

Optimierung mit einem einzelnen Gewicht

ch2_1_v3.046.png

Einführung in Deep Learning mit Python

Optimierung mit einem einzelnen Gewicht

ch2_1_v3.047.png

Einführung in Deep Learning mit Python

Optimierung mit einem einzelnen Gewicht

ch2_1_v3.048.png

Einführung in Deep Learning mit Python

Optimierung mit einem einzelnen Gewicht

ch2_1_v3.049.png

Einführung in Deep Learning mit Python

Optimierung mit einem einzelnen Gewicht

ch2_1_v3.050.png

Einführung in Deep Learning mit Python

Optimierung mit einem einzelnen Gewicht

ch2_1_v3.051.png

Einführung in Deep Learning mit Python

Lass uns üben!

Einführung in Deep Learning mit Python

Preparing Video For Download...