Behovet av optimering

Introduktion till djupinlärning i Python

Dan Becker

Data Scientist and contributor to Keras and TensorFlow libraries

Ett neuralt basnätverk

ch2_1_v3.002.png

Introduktion till djupinlärning i Python

Ett neuralt basnätverk

ch2_1_v3.003.png

Introduktion till djupinlärning i Python

Ett neuralt basnätverk

ch2_1_v3.004.png

Introduktion till djupinlärning i Python

Ett neuralt basnätverk

ch2_1_v3.005.png

Introduktion till djupinlärning i Python

Ett neuralt basnätverk

ch2_1_v3.006.png

Introduktion till djupinlärning i Python

Ett neuralt basnätverk

ch2_1_v3.007.png

Introduktion till djupinlärning i Python

Ett neuralt basnätverk

ch2_1_v3.008.png

Introduktion till djupinlärning i Python

Ett neuralt basnätverk

ch2_1_v3.009.png

Introduktion till djupinlärning i Python

Ett neuralt basnätverk

ch2_1_v3.010.png

Introduktion till djupinlärning i Python

Förutsägelser med flera datapunkter

  • Fler datapunkter gör det svårare att göra träffsäkra förutsägelser
  • För en given viktuppsättning finns det många felvärden
  • ... ett för varje datapunkt vi gör förutsägelser för
Introduktion till djupinlärning i Python

Förlustfunktion

  • Sammanfattar felen från många datapunkter till ett enda tal
  • Mäter modellens prediktionsförmåga
Introduktion till djupinlärning i Python

Kvadratisk felförlustfunktion

ch2_1_v3.019.png

Introduktion till djupinlärning i Python

Kvadratisk felförlustfunktion

ch2_1_v3.020.png

Introduktion till djupinlärning i Python

Kvadratisk felförlustfunktion

ch2_1_v3.021.png

Introduktion till djupinlärning i Python

Förlustfunktion

ch2_1_v3.023.png

Introduktion till djupinlärning i Python

Förlustfunktion

ch2_1_v3.024.png

Introduktion till djupinlärning i Python

Förlustfunktion

ch2_1_v3.025.png

Introduktion till djupinlärning i Python

Förlustfunktion

  • Lägre förlustfunktionsvärde innebär en bättre modell
  • Mål: hitta de vikter som ger lägst förlustfunktionsvärde
  • Gradientnedstigning
Introduktion till djupinlärning i Python

Gradientnedstigning

  • Föreställ dig att du befinner dig på ett helt mörkt fält
  • Du vill hitta den lägsta punkten
  • Känn efter hur marken lutar
  • Ta ett litet steg nedåt
  • Upprepa tills det sluttar uppåt i alla riktningar
Introduktion till djupinlärning i Python

Steg i gradientnedstigning

  • Börja på en slumpmässig punkt
  • Tills du befinner dig på plan mark:
    • Beräkna lutningen
    • Ta ett steg nedåt
Introduktion till djupinlärning i Python

Optimera en modell med en enda vikt

ch2_1_v3.042.png

Introduktion till djupinlärning i Python

Optimera en modell med en enda vikt

ch2_1_v3.044.png

Introduktion till djupinlärning i Python

Optimera en modell med en enda vikt

ch2_1_v3.045.png

Introduktion till djupinlärning i Python

Optimera en modell med en enda vikt

ch2_1_v3.046.png

Introduktion till djupinlärning i Python

Optimera en modell med en enda vikt

ch2_1_v3.047.png

Introduktion till djupinlärning i Python

Optimera en modell med en enda vikt

ch2_1_v3.048.png

Introduktion till djupinlärning i Python

Optimera en modell med en enda vikt

ch2_1_v3.049.png

Introduktion till djupinlärning i Python

Optimera en modell med en enda vikt

ch2_1_v3.050.png

Introduktion till djupinlärning i Python

Optimera en modell med en enda vikt

ch2_1_v3.051.png

Introduktion till djupinlärning i Python

Nu kör vi en övning!

Introduktion till djupinlärning i Python

Preparing Video For Download...