Riduzione della dimensionalità: estrazione di feature

Esercitarsi con le domande di colloquio di Machine Learning in Python

Lisa Stuart

Data Scientist

Metodi di apprendimento non supervisionato

  • Principal Component Analysis (PCA) --> Lezione 3.1
  • Singular Value Decomposition (SVD) --> Lezione 3.1
  • Clustering/raggruppamento --> Lezione 3.3
  • Data mining esplorativo
Esercitarsi con le domande di colloquio di Machine Learning in Python

Riduzione della dimensionalità != selezione delle feature

Grafico PCA

Selezione delle feature

1 https://slideplayer.com/slide/9699240/ 2 https://www.analyticsvidhya.com/blog/2016/03/practical-guide-principal-component-analysis-python/
Esercitarsi con le domande di colloquio di Machine Learning in Python

Maledizione della dimensionalità

Grafico dimensionalità vs performance

1 https://www.visiondummy.com/2014/04/curse-dimensionality-affect-classification/
Esercitarsi con le domande di colloquio di Machine Learning in Python

Ricerca 1D

Spazio di ricerca 1D

Esercitarsi con le domande di colloquio di Machine Learning in Python

Ricerca 2D

Spazio di ricerca 2D

Esercitarsi con le domande di colloquio di Machine Learning in Python

Ricerca 3D

Spazio di ricerca 3D

Esercitarsi con le domande di colloquio di Machine Learning in Python

Metodi di riduzione della dimensionalità

  • PCA
  • SVD
Esercitarsi con le domande di colloquio di Machine Learning in Python

PCA

Grafico PCA Iris

  • PCA
    • Relazione tra X e y
    • Calcolata trovando gli assi principali
    • Trasla, ruota e scala
    • Proiezione a dimensionalità inferiore dei dati
1 https://scikit-learn.org/stable/modules/decomposition.html
Esercitarsi con le domande di colloquio di Machine Learning in Python

SVD

Grafico SVD Iris

  • SVD
    • Algebra lineare e calcolo vettoriale
    • Decompone la matrice dei dati in tre matrici
    • Produce valori "singolari"
    • La varianza nei dati ≈ SS dei valori singolari
1 https://galaxydatatech.com/2018/07/15/singular-value-decomposition/
Esercitarsi con le domande di colloquio di Machine Learning in Python

Funzioni per ridurre la dimensionalità

Funzione/metodo restituisce
sklearn.decomposition.PCA principal component analysis
sklearn.decomposition.TruncatedSVD singular value decomposition
PCA/SVD.fit_transform(X) adatta e trasforma i dati
PCA/SVD.explained_variance_ratio_ varianza spiegata dalle PC
Esercitarsi con le domande di colloquio di Machine Learning in Python

Passons à la pratique !

Esercitarsi con le domande di colloquio di Machine Learning in Python

Preparing Video For Download...