Ocena wydajności modelu

Regresja średnio zaawansowana w R

Richie Cotton

Data Evangelist at DataCamp

Metryki wydajności modelu

Współczynnik determinacji (R-squared): jak dobrze linia regresji liniowej dopasowuje się do obserwacji.
- Im większy, tym lepiej.
Resztowy błąd standardowy (RSE): typowa wielkość reszt.
- Im mniejszy, tym lepiej.

library(dplyr)
library(broom)

mdl_mass_vs_length %>% 
  glance() %>% 
  pull(r.squared)

0.8226

mdl_mass_vs_species %>% 
  glance() %>% 
  pull(r.squared)

0.7163

mdl_mass_vs_both %>% 
  glance() %>% 
  pull(r.squared)

0.9694

Większa liczba zmiennych objaśniających zwiększa $R^2$.
Zbyt wiele zmiennych objaśniających powoduje przeuczenie.
Skorygowany współczynnik determinacji penalizuje nadmiarowe zmienne.
$\bar{R ^ 2} = 1 - (1 - R ^ 2) \frac{n_{obs} - 1}{n_{obs} - n_{var} - 1}$
Kara jest widoczna, gdy $R^2$ jest małe lub $n_{var}$ stanowi dużą część $n_{obs}$.
W glance() odpowiada element adj.r.squared.

library(dplyr)
library(broom)

mdl_mass_vs_length %>% 
  glance() %>% 
  select(r.squared, adj.r.squared)

  r.squared adj.r.squared
      <dbl>         <dbl>
1    0.8226        0.8212

mdl_mass_vs_species %>% 
  glance() %>% 
  select(r.squared, adj.r.squared)

  r.squared adj.r.squared
      <dbl>         <dbl>
1    0.7163        0.7072

mdl_mass_vs_both %>% 
  glance() %>% 
  select(r.squared, adj.r.squared)

  r.squared adj.r.squared
      <dbl>         <dbl>
1    0.9694        0.9682

library(dplyr)
library(broom)

mdl_mass_vs_length %>% 
  glance() %>% 
  pull(sigma)

152.1

mdl_mass_vs_species %>% 
  glance() %>% 
  pull(sigma)

313.6

mdl_mass_vs_both %>% 
  glance() %>% 
  pull(sigma)

103.4

Regresja średnio zaawansowana w R