Lineární regrese

A/B testování v R

Lauryn Burleigh

Data Scientist

Metoda nejmenších čtverců

Reziduální součet čtverců
- Reziduum každého bodu – umocněno a sečteno
Přímka nejlepšího přizpůsobení – nejmenší součet čtverců
Chyba – střední čtvercová chyba
- Součet čtverců / N

Kladná korelace s přímkou nejlepšího přizpůsobení; osa x představuje spokojenost, osa y čas; fialové čáry znázorňují rezidua; vlevo nahoře je uveden vzorec součtu čtverců.

Model lineární regrese

linear <- lm(Time ~ Enjoy, 
                data = Pizza) 
summary(linear)

Call:
lm(formula = Time ~ Enjoy, data = pizza)

Residuals:
     Min       1Q   Median       3Q      Max 
-2.89270 -0.59857  0.04758  0.67764  2.12600 

Coefficients:
            Estimate Std. Error t value Pr(>|t|)    
(Intercept)  5.31964    0.19886  26.750  < 2e-16 ***
Enjoy        0.07707    0.01672   4.608 7.26e-06 ***

Residual standard error: 0.8947 on 198 degrees of freedom
Multiple R-squared:  0.09687,    
Adjusted R-squared:  0.09231 
F-statistic: 21.24 on 1 and 198 DF,  p-value: 7.262e-06

Ověření předpokladů

Homoskedasticita

Konstantní rozptyl

plot(fitted(linear), resid(linear));
abline(0,0)

Bodový graf s hodnotami přizpůsobeného modelu na ose x a rezidui modelu na ose y; vodorovná čára prochází hodnotou 0 na ose y.

Normalita

qqnorm(resid(linear));
qqline(resid(linear), col = "red")

Bodový graf s teoretickými hodnotami reziduí na ose x a výběrovými hodnotami na ose y; červená přímka pod úhlem 45°.

Vytváření předpovědí

Enjoy  <- 12
topredict <-  data.frame(Enjoy) 
predict(linear, newdata = topredict)

       1 
6.244452

Enjoy  <- c(12, 14)
topredict <-  data.frame(Enjoy) 
predict(linear, newdata = topredict)

       1        2 
6.244452 6.398587

Zahrnutí skupin

grplinear <- lm(Time ~ Enjoy + Topping,
                data = Pizza) 
summary(grplinear)

Enjoy  <- c(12, 14)
Topping <- "Cheese"
topredict <-  data.frame(Enjoy, Topping) 
predict(grplinear, newdata = topredict)

       1        2 
6.136022 6.269139

Call:
lm(formula = Time ~ Enjoy + Topping, 
data = pizza)

Residuals:
     Min       1Q   Median       3Q      Max 
-2.87771 -0.51529  0.03993  0.68685  2.19460 

Coefficients:
                 Estimate Std. Error t value Pr(>|t|)    
(Intercept)       5.53891    0.24823  22.314  < 2e-16 ***
Enjoy             0.06656    0.01815   3.668 0.000315 ***
ToppingCheese -0.20159    0.13729  -1.468 0.143606

Residual standard error: 0.8921 on 197 degrees of freedom
Multiple R-squared:  0.1066,    
Adjusted R-squared:  0.09758 
F-statistic: 11.76 on 2 and 197 DF,  p-value: 1.499e-05

Pojďme si procvičit!

A/B testování v R