Dimension intrinsèque

Unsupervised Learning in Python

Benjamin Wilson

Director of Research at lateral.io

Dimension intrinsèque d'une trajectoire de vol

2 caractéristiques : longitude et latitude le long d'une trajectoire de vol
Le jeu de données semble bidimensionnel
Mais on peut l'approximer avec une seule caractéristique : le déplacement le long de la trajectoire
Il est intrinsèquement unidimensionnel

latitude  longitude
  50.529     41.513
  50.360     41.672
  50.196     41.835
...

Nuage de points : longitude en fonction de la latitude

Dimension intrinsèque = nombre de caractéristiques nécessaires pour approximer le jeu de données
Idée clé derrière la réduction de dimension
Quelle est la représentation la plus compacte des échantillons ?
Détectable avec l'ACP

Points versicolor tracés en 3D : longueur du sépale vs largeur du sépale vs largeur du pétale

Points versicolor après rotation en 3D : CP1 vs CP2 vs CP3

Diagramme à bandes : numéro de composante ACP vs variance

La dimension intrinsèque est le nombre de composantes ACP à variance significative
Dans notre exemple : les deux premières composantes
Donc la dimension intrinsèque est 2

Diagramme à bandes : numéro de composante ACP vs variance avec ligne rouge verticale entre 1 et 2

import matplotlib.pyplot as plt
from sklearn.decomposition import PCA

pca = PCA()

pca.fit(samples)

PCA()

features = range(pca.n_components_)

plt.bar(features, pca.explained_variance_)
plt.xticks(features)
plt.ylabel('variance')
plt.xlabel('PCA feature')
plt.show()

Diagramme à bandes : numéro de composante ACP vs variance

Diagramme à bandes : numéro de composante ACP vs variance pour le jeu de données sur les vins

Unsupervised Learning in Python