Sélection de variables vs. extraction de variables

Réduction de dimension en R

Matt Pickard

Owner, Pickard Predictives, LLC

Approches de réduction de dimension

Potager

  • Sélection de variables comme enlever les mauvaises herbes
  • Extraction de variables comme préparer une salade
1 Source de l'image : Daderot, CC0, via Wikimedia Commons
Réduction de dimension en R

Sélection de variables

Ensemble de six variables codées par couleur

Réduction de dimension en R

Sélection de variables

Six variables où celles à faible information sont filtrées

Réduction de dimension en R

Sélection de variables

Ensemble filtré de quatre variables

Réduction de dimension en R

Exemple de données de crédit

credit_df %>% head(n=5)
  annual_income num_bank_accounts num_credit_card outstanding_debt credit_history_months
          <dbl>             <dbl>           <dbl>            <dbl>                 <dbl>
1        87630.                 2               5             526.                   286
2        16574.                 2               5              NA                    122
3        24931.                 2               5              NA                    351
4       136680.                 2               5              NA                    216
5        76850.                 2               5            1112.                   272
Réduction de dimension en R

Créer un filtre à variance nulle

na_filter <- credit_df %>% 
  summarize(across(everything(), ~ var(., na.rm = TRUE))) %>%

pivot_longer(everything(), names_to = "feature", values_to = "variance") %>%
filter(variance == 0) %>%
pull(feature)
na_filter
"num_bank_accounts" "num_credit_card"
Réduction de dimension en R

Créer un filtre de valeurs manquantes

na_filter <- credit_df %>%  
  summarize(across(everything(), ~ sum(is.na(.)))) %>%

pivot_longer(everything(), names_to = "feature", values_to = "num_missing_values") %>%
filter(num_missing_values > 0) %>%
pull(feature)
na_filter
"outstanding_debt"
Réduction de dimension en R

Appliquer le filtre combiné

combined_filter <- 
  c(low_var_filter, na_filter)

credit_df %>% 
  select(-all_of(combined_filter)) %>% 
  head(3)
  annual_income credit_history_months
          <dbl>                 <dbl>
1        87630.                   286
2        16574.                   122
3        24931.                   351
Réduction de dimension en R

Extraction de variables

Ensemble de six variables codées par couleur

Réduction de dimension en R

Extraction de variables

Certaines variables combinées pour en faire quatre

Réduction de dimension en R

Extraction de variables et information mutuelle

Diagramme de Venn avec intersection

Réduction de dimension en R

Extraction : combiner l'info mutuellement exclusive

Variables combinées incluant l'information mutuelle et l'information mutuellement exclusive

Réduction de dimension en R

Extraction : combiner l'info mutuellement exclusive

Variables combinées avec l'information mutuelle retirée

Réduction de dimension en R

Avantages et inconvénients de l'extraction de variables

Avantages
  • peut combiner des informations en nouvelles variables
Inconvénients
  • implémentation plus complexe
  • nouvelles variables difficiles à interpréter

Analyse en composantes principales de l'IMC, la taille et le poids

Réduction de dimension en R

Passons à la pratique !

Réduction de dimension en R

Preparing Video For Download...