Réduction de dimension : extraction de caractéristiques

S'exercer aux questions d'entrevue en Machine Learning avec Python

Lisa Stuart

Data Scientist

Méthodes d'apprentissage non supervisé

  • Analyse en composantes principales (PCA) --> Leçon 3.1
  • Décomposition en valeurs singulières (SVD) --> Leçon 3.1
  • Regroupement/clustering --> Leçon 3.3
  • Exploration de données
S'exercer aux questions d'entrevue en Machine Learning avec Python

Réduction de dimension ≠ sélection de caractéristiques

Graphique PCA

Sélection de caractéristiques

1 https://slideplayer.com/slide/9699240/ 2 https://www.analyticsvidhya.com/blog/2016/03/practical-guide-principal-component-analysis-python/
S'exercer aux questions d'entrevue en Machine Learning avec Python

Malédiction de la dimensionnalité

Dimension vs rendement

1 https://www.visiondummy.com/2014/04/curse-dimensionality-affect-classification/
S'exercer aux questions d'entrevue en Machine Learning avec Python

Recherche 1D

Espace de recherche 1D

S'exercer aux questions d'entrevue en Machine Learning avec Python

Recherche 2D

Espace de recherche 2D

S'exercer aux questions d'entrevue en Machine Learning avec Python

Recherche 3D

Espace de recherche 3D

S'exercer aux questions d'entrevue en Machine Learning avec Python

Méthodes de réduction de dimension

  • PCA
  • SVD
S'exercer aux questions d'entrevue en Machine Learning avec Python

PCA

Graphique PCA sur Iris

  • PCA
    • Relation entre X et y
    • Calcule les axes principaux
    • Translate, fait pivoter et met à l'échelle
    • Projection des données en plus basse dimension
1 https://scikit-learn.org/stable/modules/decomposition.html
S'exercer aux questions d'entrevue en Machine Learning avec Python

SVD

Graphique SVD sur Iris

  • SVD
    • Algèbre linéaire et calcul vectoriel
    • Décompose la matrice des données en trois matrices
    • Produit des valeurs « singulières »
    • La variance des données ≈ somme des carrés des valeurs singulières
1 https://galaxydatatech.com/2018/07/15/singular-value-decomposition/
S'exercer aux questions d'entrevue en Machine Learning avec Python

Fonctions de réduction de dimension

Fonction/méthode renvoie
sklearn.decomposition.PCA analyse en composantes principales
sklearn.decomposition.TruncatedSVD décomposition en valeurs singulières
PCA/SVD.fit_transform(X) ajuste et transforme les données
PCA/SVD.explained_variance_ratio_ variance expliquée par les PC
S'exercer aux questions d'entrevue en Machine Learning avec Python

Passons à la pratique !

S'exercer aux questions d'entrevue en Machine Learning avec Python

Preparing Video For Download...