Multipel logistisk regression

Generaliserade linjära modeller i R

Richard Erickson

Instructor

Kapiteöversikt

Multipel logistisk regression
Formler i R
Modellantaganden

Varför multipel regression?

Problem: Flera prediktorer. Vilka ska inkluderas?

Lösning: Inkludera alla med multipel regression.

Flera prediktorer

Enkel linjär modell eller enkel GLM:
- Begränsad till 1 lutning och 1 intercept
- $y\sim \beta_0 + \beta_1 x + \epsilon$
Multipel regression
- Flera lutningar och intercept:
- $y\sim \beta_0 + \beta_1 x_1 + \beta_2 x + \beta_3 x_3 \ldots + \epsilon$

För mycket av det goda

Teoretiskt maximalt antal koefficienter:

Maximalt antal $\beta$s = Antal observationer

Överanpassning:

För många prediktorer i förhållande till antal sampel

Praktiskt maximalt antal koefficienter:

Antal $\beta\times10 \approx$ Antal observationer

Bussdata: Två möjliga prediktorer

Bussresenärdata med 2 möjliga prediktorer
- Antal pendlingsdagar: CommuteDay
- Pendlingsavstånd: MilesOneWay
Möjligt att bygga en modell med båda

glm(Bus ~ CommuteDay + MilesOneWay, data = bus,  family = 'binomial')

Sammanfattning av GLM med flera prediktorer

Call:
glm(formula = Bus ~ CommuteDays + MilesOneWay, family = "binomial", 
    data = bus)

Deviance Residuals: 
    Min       1Q   Median       3Q      Max  
-1.0732  -0.9035  -0.7816   1.3968   2.5066  

Coefficients:
             Estimate Std. Error z value Pr(>|z|)    
(Intercept) -0.707515   0.119719  -5.910 3.42e-09 ***
CommuteDays  0.066084   0.023181   2.851  0.00436 ** 
MilesOneWay -0.059571   0.003218 -18.512  < 2e-16 ***
#...

Korrelation mellan prediktorer

Exempel på korrelationsplot

Koefficienternas ordning

Ingen korrelation mellan prediktorer

Ordning spelar ingen roll
$y\sim x_1 + x_2 +\epsilon \approx y\sim x_2 + x_1 +\epsilon$

Korrelation mellan prediktorer

Ordningen kan påverka skattningarna
$y\sim x_1 + x_2 +\epsilon \neq y\sim x_2 + x_1 +\epsilon$

Nu kör vi en övning!

Generaliserade linjära modeller i R