Redução de dimensionalidade: extração de atributos

Praticando perguntas de entrevista de Machine Learning em Python

Lisa Stuart

Data Scientist

Métodos de aprendizado não supervisionado

  • Análise de componentes principais (PCA) --> Aula 3.1
  • Decomposição em valores singulares (SVD) --> Aula 3.1
  • Agrupamento/clusterização --> Aula 3.3
  • Mineração exploratória de dados
Praticando perguntas de entrevista de Machine Learning em Python

Redução de dimensionalidade != seleção de atributos

Gráfico de PCA

Seleção de atributos

1 https://slideplayer.com/slide/9699240/ 2 https://www.analyticsvidhya.com/blog/2016/03/practical-guide-principal-component-analysis-python/
Praticando perguntas de entrevista de Machine Learning em Python

Maldição da dimensionalidade

Dimensionalidade vs desempenho

1 https://www.visiondummy.com/2014/04/curse-dimensionality-affect-classification/
Praticando perguntas de entrevista de Machine Learning em Python

Busca em 1D

Espaço de busca 1D

Praticando perguntas de entrevista de Machine Learning em Python

Busca em 2D

Espaço de busca 2D

Praticando perguntas de entrevista de Machine Learning em Python

Busca em 3D

Espaço de busca 3D

Praticando perguntas de entrevista de Machine Learning em Python

Métodos de redução de dimensionalidade

  • PCA
  • SVD
Praticando perguntas de entrevista de Machine Learning em Python

PCA

Gráfico de PCA no Iris

  • PCA
    • Relação entre X e y
    • Calculado encontrando eixos principais
    • Translada, rotaciona e escala
    • Projeta os dados em menor dimensão
1 https://scikit-learn.org/stable/modules/decomposition.html
Praticando perguntas de entrevista de Machine Learning em Python

SVD

Gráfico de SVD no Iris

  • SVD
    • Álgebra linear e cálculo vetorial
    • Decompõe a matriz de dados em três matrizes
    • Gera valores "singulares"
    • Variância dos dados ≈ SQ dos valores singulares
1 https://galaxydatatech.com/2018/07/15/singular-value-decomposition/
Praticando perguntas de entrevista de Machine Learning em Python

Funções de redução de dimensão

Função/método retorna
sklearn.decomposition.PCA análise de componentes principais
sklearn.decomposition.TruncatedSVD decomposição em valores singulares
PCA/SVD.fit_transform(X) ajusta e transforma os dados
PCA/SVD.explained_variance_ratio_ variância explicada pelos PCs
Praticando perguntas de entrevista de Machine Learning em Python

Vamos praticar!

Praticando perguntas de entrevista de Machine Learning em Python

Preparing Video For Download...