Predyktory numeryczne

Modelowanie z tidymodels w R

David Svancer

Data Scientist

Skorelowane zmienne predyktory

Korelacja mierzy siłę liniowej zależności między dwiema zmiennymi numerycznymi

Przyjmuje wartości od -1 do 1
Silnie skorelowane predyktory bliskie -1 lub 1
- Dostarczają nadmiarowych informacji
- Problemy z dopasowaniem modelu (multikolinearność)

ggplot(leads_training,
       aes(x = pages_per_visit, y = total_clicks)) + 
  geom_point()  + 
  labs(title = 'Total Clicks vs Average Page Visits',
       y = 'Total Clicks', x = 'Average Pages per Visit')

Wykres punktowy całkowitej liczby kliknięć względem stron na wizytę w danych scoringowych

Wykrywanie skorelowanych predyktorów

Obliczanie macierzy korelacji

Przekazać zbiór danych do funkcji select_if()
- Podać is.numeric jako argument
Przekazać do funkcji cor()

leads_training %>%

  select_if(is.numeric) %>%

  cor()

              total_visits total_time pages_per_visit total_clicks
total_visits        1.00       0.01            0.43         0.42
total_time          0.01       1.00            0.02         0.01
pages_per_visit     0.43       0.02            1.00         0.96
total_clicks        0.42       0.01            0.96         1.00

Przetwarzanie skorelowanych predyktorów

Usuwanie multikolinearności za pomocą recipes

Określić obiekt recipe funkcją recipe()
Przekazać do step_corr()
- Dodać wszystkie kolumny numeryczne
  - Nazwy kolumn oddzielone przecinkami
- Podać threshold korelacji
  - Wartość bezwzględna
  - Próg 0,9 usuwa korelacje równe 0,9 lub więcej oraz -0,9 lub mniej

leads_cor_rec <- recipe(purchased ~ .,
                        data = leads_training) %>%

  step_corr(total_visits, total_time,
            pages_per_visit, total_clicks,
            threshold = 0.9)


leads_cor_rec

Data Recipe
Inputs:
      role #variables
   outcome          1
 predictor          6

Operations:
Correlation filter on total_visits,..., total_clicks

Wybieranie predyktorów według typu

all_outcomes()
- Wybiera zmienną wynikową
all_numeric()
- Wybiera wszystkie zmienne numeryczne
  - Uwzględnia zmienną wynikową, jeśli jest numeryczna

Aby wybrać numeryczne predyktory do kroków recipe

Przekazać all_numeric() do funkcji step_*()
Jeśli zmienna wynikowa jest numeryczna, dodać też -all_outcomes()

leads_cor_rec <- recipe(purchased ~ .,
                        data = leads_training) %>%

  step_corr(all_numeric(), threshold = 0.9)


leads_cor_rec

Data Recipe
Inputs:
      role #variables
   outcome          1
 predictor          6

Operations:
Correlation filter on all_numeric()

Trenowanie i stosowanie przepisu

Trenowanie za pomocą prep()
- Przekazać leads_training do trenowania
Stosowanie za pomocą bake()
- pages_per_visit usunięte z leads_test
- pages_per_visit zostanie usunięte również z przyszłych danych

leads_cor_rec %>% 

  prep(training = leads_training) %>% 

  bake(new_data = leads_test)

# A tibble: 332 x 6
total_visits total_time total_clicks ... purchased
    <dbl>       <dbl>        <dbl>   ...   <fct>
 1   8          100           24     ...    no
 2   4          1346          22     ...    yes
 3   3          176           27     ...    no
 4   2          16            12     ...    no
 5   9          1022          12     ...    yes
# ... with 327 more rows

Normalizacja

Centrowanie i skalowanie zmiennych numerycznych

Odjąć średnią
Podzielić przez odchylenie standardowe
Przekształca dane na jednostki odchylenia standardowego
- Przekształcona zmienna będzie miała średnią 0 i odchylenie standardowe 1

Zmienna total_time w leads_training

Spędzenie 1 273 sekund na stronie to 1,19 odchylenia standardowego powyżej średniego czasu klientów

Przykład normalizacji zmiennej całkowitego czasu z danych treningowych

Łączenie kroków przetwarzania danych

Normalizacja predyktorów numerycznych za pomocą recipes

step_normalize()
- Nazwy kolumn lub selektor all_numeric()
- Średnie i odchylenia standardowe z kolumn danych treningowych stosowane do nowych danych

Do recipe można dodać wiele funkcji step_*()

Kolejność ma znaczenie

leads_norm_rec <- recipe(purchased ~ .,
                         data = leads_training) %>%

  step_corr(all_numeric(), threshold = 0.9) %>% 
  step_normalize(all_numeric())


leads_norm_rec

Data Recipe
Inputs:
      role #variables
   outcome          1
 predictor          6

Operations:
Correlation filter on all_numeric()
Centering and scaling for all_numeric()

Transformacja danych testowych

pages_per_vist zostaje usunięte, a predyktory numeryczne znormalizowane

leads_norm_rec %>% 
  prep(training = leads_training) %>% 
  bake(new_data = leads_test)

# A tibble: 332 x 6
 total_visits  total_time  total_clicks  lead_source   us_location  purchased
      <dbl>      <dbl>        <dbl>        <fct>          <fct>      <fct>    
 1    0.864     -0.984     -0.360        direct_traffic   west        no       
 2   -0.151      1.33      -0.506        direct_traffic   northeast   yes      
 3   -0.405     -0.843     -0.140        organic_search   west        no       
 4   -0.659     -1.14      -1.24         email            midwest     no       
 5    1.12       0.725     -1.24         direct_traffic   west        yes           
# ... with 327 more rows

Czas na ćwiczenia!

Modelowanie z tidymodels w R