Le besoin d'optimisation

Introduction à Deep Learning en Python

Dan Becker

Data Scientist and contributor to Keras and TensorFlow libraries

Un réseau de neurones de base

Un réseau de neurones de base

Un réseau de neurones de base

Un réseau de neurones de base

Un réseau de neurones de base

Un réseau de neurones de base

Un réseau de neurones de base

Un réseau de neurones de base

Un réseau de neurones de base

Prédictions avec plusieurs points

• Prédire avec précision devient plus difficile avec plus de points
• Pour tout ensemble de poids, il existe de nombreuses valeurs de l'erreur
• … correspondant aux nombreux points pour lesquels on prédit

Fonction de perte

• Regroupe les erreurs de prédiction de plusieurs points de données en un seul nombre
• Mesure la performance prédictive du modèle

Fonction de perte par erreur quadratique

Fonction de perte par erreur quadratique

Fonction de perte par erreur quadratique

Fonction de perte

Fonction de perte

Fonction de perte

Fonction de perte

• Une valeur de perte plus faible indique un meilleur modèle
• Objectif : trouver les poids qui minimisent la fonction de perte
• Descente de gradient

Descente de gradient

• Imaginez-vous dans un champ plongé dans le noir
• Vous cherchez le point le plus bas
• Tâtez le sol pour sentir la pente
• Faites un petit pas vers le bas
• Répétez jusqu'à ce que ça monte dans toutes les directions

Étapes de la descente de gradient

• Partir d'un point aléatoire
• Jusqu'à être sur une zone plate :
  • Trouver la pente
  • Faire un pas vers le bas

Optimiser un modèle avec un seul poids

Optimiser un modèle avec un seul poids

Optimiser un modèle avec un seul poids

Optimiser un modèle avec un seul poids

Optimiser un modèle avec un seul poids

Optimiser un modèle avec un seul poids

Optimiser un modèle avec un seul poids

Optimiser un modèle avec un seul poids

Optimiser un modèle avec un seul poids

Passons à la pratique !

Introduction à Deep Learning en Python