Preditores numéricos

Modelagem com tidymodels em R

David Svancer

Data Scientist

Variáveis preditoras correlacionadas

Correlação mede a força de uma relação linear entre duas variáveis numéricas

Varia de -1 a 1
Preditores com correlação alta próximos de -1 ou 1
- Fornecem informação redundante
- Causam problemas de ajuste (multicolinearidade)

ggplot(leads_training,
       aes(x = pages_per_visit, y = total_clicks)) + 
  geom_point()  + 
  labs(title = 'Total Clicks vs Average Page Visits',
       y = 'Total Clicks', x = 'Average Pages per Visit')

Gráfico de dispersão de cliques totais versus páginas por visita nos dados de lead scoring

Encontrando variáveis preditoras correlacionadas

Calcular uma matriz de correlação

Passe o conjunto de dados para a função select_if()
- Forneça is.numeric como argumento
Passe para a função cor()

leads_training %>%

  select_if(is.numeric) %>%

  cor()

              total_visits total_time pages_per_visit total_clicks
total_visits        1.00       0.01            0.43         0.42
total_time          0.01       1.00            0.02         0.01
pages_per_visit     0.43       0.02            1.00         0.96
total_clicks        0.42       0.01            0.96         1.00

Processando preditores correlacionados

Removendo multicolinearidade com recipes

Defina o objeto recipe com a função recipe()
Passe para step_corr()
- Adicione todas as colunas numéricas
  - Nomes de colunas separados por vírgulas
- Defina o threshold de correlação
  - Valor absoluto
  - Limiar 0.9 remove correlações ≥ 0.9 e ≤ -0.9

leads_cor_rec <- recipe(purchased ~ .,
                        data = leads_training) %>%

  step_corr(total_visits, total_time,
            pages_per_visit, total_clicks,
            threshold = 0.9)


leads_cor_rec

Data Recipe
Inputs:
      role #variables
   outcome          1
 predictor          6

Operations:
Correlation filter on total_visits,..., total_clicks

Selecionando preditores por tipo

all_outcomes()
- Seleciona a variável de desfecho
all_numeric()
- Seleciona todas as variáveis numéricas
  - Inclui o desfecho se ele for numérico

Para selecionar preditores numéricos em etapas de recipe

Passe all_numeric() às funções step_*()
Se o desfecho for numérico, também passe -all_outcomes()

leads_cor_rec <- recipe(purchased ~ .,
                        data = leads_training) %>%

  step_corr(all_numeric(), threshold = 0.9)


leads_cor_rec

Data Recipe
Inputs:
      role #variables
   outcome          1
 predictor          6

Operations:
Correlation filter on all_numeric()

Treinando e aplicando a receita

Treine com prep()
- Forneça leads_training para treino
Aplique com bake()
- pages_per_visit removida de leads_test
- pages_per_visit será removida de todos os dados futuros também

leads_cor_rec %>% 

  prep(training = leads_training) %>% 

  bake(new_data = leads_test)

# A tibble: 332 x 6
total_visits total_time total_clicks ... purchased
    <dbl>       <dbl>        <dbl>   ...   <fct>
 1   8          100           24     ...    no
 2   4          1346          22     ...    yes
 3   3          176           27     ...    no
 4   2          16            12     ...    no
 5   9          1022          12     ...    yes
# ... with 327 more rows

Normalização

Centralizando e escalonando variáveis numéricas

Subtrair a média
Dividir pelo desvio padrão
Transforma os dados em unidades de desvio padrão
- A variável transformada terá média 0 e desvio padrão 1

A variável total_time em leads_training

Ficar 1.273 segundos no site é 1,19 desvios padrão acima do tempo médio

Exemplo de normalização da variável total_time do leads_training

Combinando etapas de pré-processamento

Normalizando preditores numéricos com recipes

step_normalize()
- Nomes de colunas ou seletor all_numeric()
- Médias e desvios padrão das colunas de treino são aplicados aos novos dados

Várias funções step_*() podem ser adicionadas a uma recipe

A ordem importa

leads_norm_rec <- recipe(purchased ~ .,
                         data = leads_training) %>%

  step_corr(all_numeric(), threshold = 0.9) %>% 
  step_normalize(all_numeric())


leads_norm_rec

Data Recipe
Inputs:
      role #variables
   outcome          1
 predictor          6

Operations:
Correlation filter on all_numeric()
Centering and scaling for all_numeric()

Transformando os dados de teste

pages_per_vist é removida e preditores numéricos são normalizados

leads_norm_rec %>% 
  prep(training = leads_training) %>% 
  bake(new_data = leads_test)

# A tibble: 332 x 6
 total_visits  total_time  total_clicks  lead_source   us_location  purchased
      <dbl>      <dbl>        <dbl>        <fct>          <fct>      <fct>    
 1    0.864     -0.984     -0.360        direct_traffic   west        no       
 2   -0.151      1.33      -0.506        direct_traffic   northeast   yes      
 3   -0.405     -0.843     -0.140        organic_search   west        no       
 4   -0.659     -1.14      -1.24         email            midwest     no       
 5    1.12       0.725     -1.24         direct_traffic   west        yes           
# ... with 327 more rows

Vamos praticar!

Modelagem com tidymodels em R