Redukce dimenzionality: extrakce příznaků

Procvičování otázek k pohovorům z oblasti Machine Learning v Pythonu

Lisa Stuart

Data Scientist

Metody učení bez učitele

  • Analýza hlavních komponent (PCA) --> Lekce 3.1
  • Rozklad na singulární hodnoty (SVD) --> Lekce 3.1
  • Shlukování --> Lekce 3.3
  • Průzkumná dolování dat
Procvičování otázek k pohovorům z oblasti Machine Learning v Pythonu

Redukce dimenzionality != výběr příznaků

Graf PCA

Výběr příznaků

1 https://slideplayer.com/slide/9699240/ 2 https://www.analyticsvidhya.com/blog/2016/03/practical-guide-principal-component-analysis-python/
Procvičování otázek k pohovorům z oblasti Machine Learning v Pythonu

Prokletí dimenzionality

Graf dimenzionality vs. výkon

1 https://www.visiondummy.com/2014/04/curse-dimensionality-affect-classification/
Procvičování otázek k pohovorům z oblasti Machine Learning v Pythonu

1D prohledávání

1D prostor prohledávání

Procvičování otázek k pohovorům z oblasti Machine Learning v Pythonu

2D prohledávání

2D prostor prohledávání

Procvičování otázek k pohovorům z oblasti Machine Learning v Pythonu

3D prohledávání

3D prostor prohledávání

Procvičování otázek k pohovorům z oblasti Machine Learning v Pythonu

Metody redukce dimenzionality

  • PCA
  • SVD
Procvičování otázek k pohovorům z oblasti Machine Learning v Pythonu

PCA

Graf PCA pro Iris

  • PCA
    • Vztah mezi X a y
    • Výpočet pomocí hlavních os
    • Posun, rotace a škálování
    • Projekce dat do nižší dimenze
1 https://scikit-learn.org/stable/modules/decomposition.html
Procvičování otázek k pohovorům z oblasti Machine Learning v Pythonu

SVD

Graf SVD pro Iris

  • SVD
    • Lineární algebra a vektorový počet
    • Rozkládá datovou matici na tři matice
    • Výsledkem jsou singulární hodnoty
    • Rozptyl dat přibližně odpovídá SS singulárních hodnot
1 https://galaxydatatech.com/2018/07/15/singular-value-decomposition/
Procvičování otázek k pohovorům z oblasti Machine Learning v Pythonu

Funkce pro redukci dimenzionality

Funkce/metoda vrací
sklearn.decomposition.PCA analýza hlavních komponent
sklearn.decomposition.TruncatedSVD rozklad na singulární hodnoty
PCA/SVD.fit_transform(X) trénuje a transformuje data
PCA/SVD.explained_variance_ratio_ rozptyl vysvětlený hlavními komponentami
Procvičování otázek k pohovorům z oblasti Machine Learning v Pythonu

Pojďme si procvičit!

Procvičování otázek k pohovorům z oblasti Machine Learning v Pythonu

Preparing Video For Download...