Dimensionsreduktion: särdragsextraktion

Öva på maskininlärningsintervjufrågor i Python

Lisa Stuart

Data Scientist

Oövervakade inlärningsmetoder

  • Principalkomponentanalys (PCA) --> Lektion 3.1
  • Singulärvärdesnedbrytning (SVD) --> Lektion 3.1
  • Klustring/gruppering --> Lektion 3.3
  • Explorativ datautvinning
Öva på maskininlärningsintervjufrågor i Python

Dimensionsreduktion != särdragsurval

PCA-diagram

Särdragsurval

1 https://slideplayer.com/slide/9699240/ 2 https://www.analyticsvidhya.com/blog/2016/03/practical-guide-principal-component-analysis-python/
Öva på maskininlärningsintervjufrågor i Python

Dimensionalitetens förbannelse

Diagram: dimensionalitet kontra prestanda

1 https://www.visiondummy.com/2014/04/curse-dimensionality-affect-classification/
Öva på maskininlärningsintervjufrågor i Python

1-dimensionell sökning

1-dimensionellt sökrum

Öva på maskininlärningsintervjufrågor i Python

2-dimensionell sökning

2-dimensionellt sökrum

Öva på maskininlärningsintervjufrågor i Python

3-dimensionell sökning

3-dimensionellt sökrum

Öva på maskininlärningsintervjufrågor i Python

Metoder för dimensionsreduktion

  • PCA
  • SVD
Öva på maskininlärningsintervjufrågor i Python

PCA

PCA-diagram för Iris

  • PCA
    • Samband mellan X och y
    • Beräknas genom att hitta principalaxlar
    • Translaterar, roterar och skalar
    • Lägredimensionell projektion av data
1 https://scikit-learn.org/stable/modules/decomposition.html
Öva på maskininlärningsintervjufrågor i Python

SVD

SVD-diagram för Iris

  • SVD
    • Linjär algebra och vektorkalkyl
    • Bryter ned datamatrisen i tre matriser
    • Ger upphov till "singulära" värden
    • Variansen i data är ungefär lika med summan av kvadrerade singulära värden
1 https://galaxydatatech.com/2018/07/15/singular-value-decomposition/
Öva på maskininlärningsintervjufrågor i Python

Funktioner för dimensionsreduktion

Funktion/metod returnerar
sklearn.decomposition.PCA principalkomponentanalys
sklearn.decomposition.TruncatedSVD singulärvärdesnedbrytning
PCA/SVD.fit_transform(X) anpassar och transformerar data
PCA/SVD.explained_variance_ratio_ varians förklarad av PC:er
Öva på maskininlärningsintervjufrågor i Python

Nu kör vi en övning!

Öva på maskininlärningsintervjufrågor i Python

Preparing Video For Download...