Erreur de généralisation

Machine Learning avec des modèles à base d'arbres en Python

Elie Kawerk

Data Scientist

Apprentissage supervisé : sous le capot

  • Apprentissage supervisé : $y = f(x)$, $f$ est inconnue.

jeu de données bruité

Machine Learning avec des modèles à base d'arbres en Python

Objectifs de l'apprentissage supervisé

  • Trouver un modèle $\hat{f}$ qui approxime au mieux $f$ : $\hat{f} \approx f$

  • $\hat{f}$ peut être une régression logistique, un arbre de décision, un réseau de neurones…

  • Écarter le bruit autant que possible.

  • But final : $\hat{f}$ doit obtenir une faible erreur prédictive sur des jeux de données non vus.

Machine Learning avec des modèles à base d'arbres en Python

Difficultés à approximer $f$

  • Surapprentissage :

    $\hat{f}(x)$ ajuste le bruit de l'ensemble d'entraînement.

  • Sous-apprentissage :

    $\hat{f}$ n'est pas assez flexible pour approximer $f$.

Machine Learning avec des modèles à base d'arbres en Python

Surapprentissage

surapprentissage

Machine Learning avec des modèles à base d'arbres en Python

Sous-apprentissage

sous-apprentissage

Machine Learning avec des modèles à base d'arbres en Python

Erreur de généralisation

  • Erreur de généralisation de $\hat{f}$ : $\hat{f}$ généralise-t-il bien sur des données non vues ?

  • Elle se décompose ainsi :

    Erreur de généralisation de $\hat{f} = bias^2 + variance + \text{erreur irréductible}$

Machine Learning avec des modèles à base d'arbres en Python

Biais

  • Biais : terme d'erreur qui indique, en moyenne, de combien $\hat{f} \neq f$.

biais élevé

Machine Learning avec des modèles à base d'arbres en Python

Variance

  • Variance : indique dans quelle mesure $\hat{f}$ varie selon les ensembles d'entraînement.

variance élevée

Machine Learning avec des modèles à base d'arbres en Python

Complexité du modèle

  • Complexité du modèle : fixe la flexibilité de $\hat{f}$.

  • Exemple : profondeur max. de l'arbre, nombre minimal d'exemples par feuille, …

Machine Learning avec des modèles à base d'arbres en Python

Compromis biais-variance

décomposition de généralisation

Machine Learning avec des modèles à base d'arbres en Python

Compromis biais-variance : explication visuelle

visuel biais-variance

Machine Learning avec des modèles à base d'arbres en Python

Passons à la pratique !

Machine Learning avec des modèles à base d'arbres en Python

Preparing Video For Download...