R-quadrado ($R^2$)

Aprendizado Supervisionado em R: Regressão

Nina Zumel and John Mount

Win-Vector LLC

O que é $R^2$?

Uma medida de quão bem o modelo se ajusta ou explica os dados

Um valor entre 0-1
- perto de 1: modelo ajusta bem
- perto de 0: não melhor que chutar a média

Calculando $R^2$

$R^2$ é a variância explicada pelo modelo.

$$ R^2 = 1 - \frac{RSS}{SS_{Tot}} $$

onde

$RSS = \sum{(y - prediction)^2}$
- Soma dos quadrados dos resíduos (variância do modelo)
$SS_{Tot} = \sum{(y - \overline{y})^2}$
- Soma total dos quadrados (variância dos dados)

Calcular $R^2$ do modelo de preços de casas: RSS

Calcular o erro

err <- houseprices$prediction - houseprices$price

Elevar ao quadrado e somar

rss <- sum(err^2)

price: coluna de preços reais de venda (em milhares)
pred: coluna de preços previstos (em milhares)
$RSS \approx$ 136138

Calcular $R^2$ do modelo de preços de casas: $SS_{Tot}$

Subtrair a média de cada preço

toterr <- houseprices$price - mean(houseprices$price)

Elevar ao quadrado e somar

sstot <- sum(toterr^2)

$RSS \approx$ 136138
$SS_{Tot} \approx$ 713615

Calcular $R^2$ do modelo de preços de casas

(r_squared <- 1 - (rss/sstot) )

0.8092278

$RSS \approx$ 136138
$SS_{Tot} \approx$ 713615
$R^2 \approx$ 0.809

Lendo $R^2$ do modelo lm()

# From summary()
summary(hmodel)

...
Residual standard error: 60.66 on 37 degrees of freedom
Multiple R-squared:  0.8092, Adjusted R-squared:  0.7989 
F-statistic: 78.47 on 2 and 37 DF,  p-value: 4.893e-14

summary(hmodel)$r.squared

0.8092278

# From glance()
glance(hmodel)$r.squared

0.8092278

Correlação e $R^2$

rho <- cor(houseprices$prediction, houseprices$price)

0.8995709

rho^2

0.8092278

$\rho$ = cor(prediction, price) = 0.8995709
$\rho^2$ = 0.8092278 = $R^2$

Correlação e $R^2$

Vale para modelos que minimizam o erro quadrático:
- Regressão linear
- Regressão GAM
- Árvores que minimizam erro quadrático
Vale para os dados de treino; NÃO vale para dados futuros

Vamos praticar!

Aprendizado Supervisionado em R: Regressão