Reduksi dimensi: ekstraksi fitur

Berlatih Pertanyaan Wawancara Machine Learning dengan Python

Lisa Stuart

Data Scientist

Metode pembelajaran tanpa supervisi

  • Principal component analysis (PCA) --> Pelajaran 3.1
  • Singular value decomposition (SVD) --> Pelajaran 3.1
  • Clustering/pengelompokan --> Pelajaran 3.3
  • Penambangan data eksploratori
Berlatih Pertanyaan Wawancara Machine Learning dengan Python

Reduksi dimensi ≠ seleksi fitur

Plot PCA

Seleksi fitur

1 https://slideplayer.com/slide/9699240/ 2 https://www.analyticsvidhya.com/blog/2016/03/practical-guide-principal-component-analysis-python/
Berlatih Pertanyaan Wawancara Machine Learning dengan Python

Kutukan dimensi

Plot dimensi vs kinerja

1 https://www.visiondummy.com/2014/04/curse-dimensionality-affect-classification/
Berlatih Pertanyaan Wawancara Machine Learning dengan Python

Pencarian 1-D

Ruang pencarian 1-D

Berlatih Pertanyaan Wawancara Machine Learning dengan Python

Pencarian 2-D

Ruang pencarian 2-D

Berlatih Pertanyaan Wawancara Machine Learning dengan Python

Pencarian 3-D

Ruang pencarian 3-D

Berlatih Pertanyaan Wawancara Machine Learning dengan Python

Metode reduksi dimensi

  • PCA
  • SVD
Berlatih Pertanyaan Wawancara Machine Learning dengan Python

PCA

Plot PCA Iris

  • PCA
    • Hubungan antara X dan y
    • Dihitung dengan mencari sumbu utama
    • Mentranslasi, memutar, dan menskalakan
    • Proyeksi berdimensi lebih rendah dari data
1 https://scikit-learn.org/stable/modules/decomposition.html
Berlatih Pertanyaan Wawancara Machine Learning dengan Python

SVD

Plot SVD Iris

  • SVD
    • Aljabar linear dan kalkulus vektor
    • Mendekomposisi matriks data menjadi tiga matriks
    • Menghasilkan nilai "singular"
    • Varians data ~ jumlah kuadrat nilai singular
1 https://galaxydatatech.com/2018/07/15/singular-value-decomposition/
Berlatih Pertanyaan Wawancara Machine Learning dengan Python

Fungsi reduksi dimensi

Fungsi/metode mengembalikan
sklearn.decomposition.PCA principal component analysis
sklearn.decomposition.TruncatedSVD singular value decomposition
PCA/SVD.fit_transform(X) menyesuaikan dan mentransformasi data
PCA/SVD.explained_variance_ratio_ varians yang dijelaskan oleh PC
Berlatih Pertanyaan Wawancara Machine Learning dengan Python

Ayo berlatih!

Berlatih Pertanyaan Wawancara Machine Learning dengan Python

Preparing Video For Download...