Dimensiunea intrinsecă

Învățare nesupervizată în Python

Benjamin Wilson

Director of Research at lateral.io

Dimensiunea intrinsecă a unei rute de zbor

  • 2 caracteristici: longitudine și latitudine pe o rută de zbor
  • Setul de date pare bidimensional
  • Poate fi aproximat cu o singură caracteristică: deplasarea pe rută
  • Este intrinsec unidimensional
latitude  longitude
  50.529     41.513
  50.360     41.672
  50.196     41.835
...

Diagramă de dispersie longitudine vs latitudine

Învățare nesupervizată în Python

Dimensiunea intrinsecă

  • Dimensiunea intrinsecă = numărul de caracteristici necesare pentru a aproxima setul de date
  • Ideea esențială din spatele reducerii dimensionalității
  • Care este reprezentarea cea mai compactă a eșantioanelor?
  • Poate fi detectată cu PCA
Învățare nesupervizată în Python

Setul de date versicolor

  • „versicolor", una dintre speciile de iris
  • Doar 3 caracteristici: lungimea sepalei, lățimea sepalei și lățimea petalei
  • Eșantioanele sunt puncte în spațiul 3D
Învățare nesupervizată în Python

Setul de date versicolor are dimensiunea intrinsecă 2

  • Eșantioanele se află aproape de un plan 2D plat
  • Pot fi aproximate folosind 2 caracteristici

Punctele versicolor în spațiu 3D: lungimea sepalei vs lățimea sepalei vs lățimea petalei

Învățare nesupervizată în Python

PCA identifică dimensiunea intrinsecă

  • Diagramele de dispersie funcționează doar cu 2 sau 3 caracteristici
  • PCA identifică dimensiunea intrinsecă indiferent de numărul de caracteristici
  • Dimensiunea intrinsecă = numărul de caracteristici PCA cu varianță semnificativă
Învățare nesupervizată în Python

PCA pentru eșantioanele versicolor

Punctele versicolor rotite reprezentate în spațiu 3D: PC1 vs PC2 vs PC3

Învățare nesupervizată în Python

Caracteristicile PCA sunt ordonate descrescător după varianță

Diagramă bară: număr caracteristică PCA vs varianță

Învățare nesupervizată în Python

Varianța și dimensiunea intrinsecă

  • Dimensiunea intrinsecă = numărul de caracteristici PCA cu varianță semnificativă
  • În exemplul nostru: primele două caracteristici PCA
  • Dimensiunea intrinsecă este 2

Diagramă bară cu linie roșie verticală între caracteristicile 1 și 2

Învățare nesupervizată în Python

Reprezentarea varianțelor caracteristicilor PCA

  • samples = array cu eșantioane versicolor
import matplotlib.pyplot as plt
from sklearn.decomposition import PCA

pca = PCA()

pca.fit(samples)

PCA()

features = range(pca.n_components_)
Învățare nesupervizată în Python

Reprezentarea varianțelor caracteristicilor PCA

plt.bar(features, pca.explained_variance_)
plt.xticks(features)
plt.ylabel('variance')
plt.xlabel('PCA feature')
plt.show()

Diagramă bară: număr caracteristică PCA vs varianță

Învățare nesupervizată în Python

Dimensiunea intrinsecă poate fi ambiguă

  • Dimensiunea intrinsecă este o idealizare
  • ... nu există întotdeauna un răspuns unic corect!
  • Vinuri Piedmont: se poate argumenta pentru 2, 3 sau mai multe

Diagramă bară: varianța caracteristicilor PCA pentru setul de date de vinuri

Învățare nesupervizată în Python

Să exersăm!

Învățare nesupervizată în Python

Preparing Video For Download...