Redukcja wymiarowości: ekstrakcja cech

Ćwiczenie pytań rekrutacyjnych z uczenia maszynowego w Pythonie

Lisa Stuart

Data Scientist

Metody uczenia nienadzorowanego

  • Analiza składowych głównych (PCA) --> Lekcja 3.1
  • Rozkład według wartości szczególnych (SVD) --> Lekcja 3.1
  • Grupowanie/klastrowanie --> Lekcja 3.3
  • Eksploracyjna analiza danych
Ćwiczenie pytań rekrutacyjnych z uczenia maszynowego w Pythonie

Redukcja wymiarowości != selekcja cech

Wykres PCA

Selekcja cech

1 https://slideplayer.com/slide/9699240/ 2 https://www.analyticsvidhya.com/blog/2016/03/practical-guide-principal-component-analysis-python/
Ćwiczenie pytań rekrutacyjnych z uczenia maszynowego w Pythonie

Przekleństwo wymiarowości

Wykres wymiarowości a wydajności

1 https://www.visiondummy.com/2014/04/curse-dimensionality-affect-classification/
Ćwiczenie pytań rekrutacyjnych z uczenia maszynowego w Pythonie

Przeszukiwanie 1D

Przestrzeń przeszukiwania 1D

Ćwiczenie pytań rekrutacyjnych z uczenia maszynowego w Pythonie

Przeszukiwanie 2D

Przestrzeń przeszukiwania 2D

Ćwiczenie pytań rekrutacyjnych z uczenia maszynowego w Pythonie

Przeszukiwanie 3D

Przestrzeń przeszukiwania 3D

Ćwiczenie pytań rekrutacyjnych z uczenia maszynowego w Pythonie

Metody redukcji wymiarowości

  • PCA
  • SVD
Ćwiczenie pytań rekrutacyjnych z uczenia maszynowego w Pythonie

PCA

Wykres PCA dla zbioru Iris

  • PCA
    • Zależność między X a y
    • Wyznaczanie głównych osi
    • Translacja, rotacja i skalowanie
    • Projekcja danych na niższy wymiar
1 https://scikit-learn.org/stable/modules/decomposition.html
Ćwiczenie pytań rekrutacyjnych z uczenia maszynowego w Pythonie

SVD

Wykres SVD dla zbioru Iris

  • SVD
    • Algebra liniowa i rachunek wektorowy
    • Rozkład macierzy danych na trzy macierze
    • Wynikiem są wartości szczególne
    • Wariancja danych ≈ suma kwadratów wartości szczególnych
1 https://galaxydatatech.com/2018/07/15/singular-value-decomposition/
Ćwiczenie pytań rekrutacyjnych z uczenia maszynowego w Pythonie

Funkcje redukcji wymiarowości

Funkcja/metoda zwraca
sklearn.decomposition.PCA analiza składowych głównych
sklearn.decomposition.TruncatedSVD rozkład według wartości szczególnych
PCA/SVD.fit_transform(X) dopasowuje i transformuje dane
PCA/SVD.explained_variance_ratio_ wariancja wyjaśniona przez składowe
Ćwiczenie pytań rekrutacyjnych z uczenia maszynowego w Pythonie

Czas na ćwiczenia!

Ćwiczenie pytań rekrutacyjnych z uczenia maszynowego w Pythonie

Preparing Video For Download...