Régression logistique multiple

Modèles linéaires généralisés (GLM) en R

Richard Erickson

Instructor

Aperçu du chapitre

Régression logistique multiple
Formules en R
Hypothèses du modèle

Pourquoi une régression multiple ?

Problème : Plusieurs variables prédictives. Lesquelles inclure ?

Solution : Les inclure toutes avec une régression multiple.

Variables prédictives multiples

Modèles linéaires simples ou GLM simples :
- Limités à 1 pente et 1 ordonnée à l'origine
- $y\sim \beta_0 + \beta_1 x + \epsilon$
Régression multiple
- Pentes et intercepts multiples :
- $y\sim \beta_0 + \beta_1 x_1 + \beta_2 x + \beta_3 x_3 \ldots + \epsilon$

Trop, c'est trop

Nombre maximal théorique de coefficients :

Nombre maximal de $\beta$ = Nombre d'observations

Surapprentissage :

Trop de prédicteurs par rapport au nombre d'échantillons

Nombre maximal pratique de coefficients :

Nombre de $\beta\times10 \approx$ Nombre d'observations

Données autobus : deux prédicteurs possibles

Données sur les usagers d'autobus : 2 prédicteurs possibles
- Nombre de jours de navettage : CommuteDay
- Distance du trajet : MilesOneWay
Possible de créer un modèle avec les deux

glm(Bus ~ CommuteDay + MilesOneWay, data = bus,  family = 'binomial')

Sommaire du GLM avec prédicteurs multiples

Call:
glm(formula = Bus ~ CommuteDays + MilesOneWay, family = "binomial", 
    data = bus)

Deviance Residuals: 
    Min       1Q   Median       3Q      Max  
-1.0732  -0.9035  -0.7816   1.3968   2.5066  

Coefficients:
             Estimate Std. Error z value Pr(>|z|)    
(Intercept) -0.707515   0.119719  -5.910 3.42e-09 ***
CommuteDays  0.066084   0.023181   2.851  0.00436 ** 
MilesOneWay -0.059571   0.003218 -18.512  < 2e-16 ***
#...

Corrélation entre prédicteurs

Exemple de diagramme de corrélation

Ordre des coefficients

Aucune corrélation entre prédicteurs

L'ordre n'est pas important
$y\sim x_1 + x_2 +\epsilon \approx y\sim x_2 + x_1 +\epsilon$

Corrélation entre prédicteurs

L'ordre peut modifier les estimations
$y\sim x_1 + x_2 +\epsilon \neq y\sim x_2 + x_1 +\epsilon$

Passons à la pratique !

Modèles linéaires généralisés (GLM) en R