Variables catégorielles et termes d'interaction

Modèles linéaires généralisés en Python

Ita Cirovic Donev

Data Science Consultant

Variables catégorielles

  • Variable binaire simple
    • Yes, No
  • Variables nominales
    • Couleur : red, green, blue
  • Variables ordinales
    • Niveaux de scolarité : Education1, Education2,...,Education4
Modèles linéaires généralisés en Python

Analyse de covariance

  • Variables explicatives

    • $x_1$ : catégorielle (binaire)
    • $x_2$ : continue
  • Modèle logistique $$ \text{logit}(y=1|X)=\beta_0 + \beta_1x_1 + \beta_2x_2 $$

Modèles linéaires généralisés en Python

Analyse de covariance

  • Variables explicatives
    • $x_1$ : catégorielle (binaire)
    • $x_2$ : continue
  • Modèle logistique $$ \text{logit}(y=1|\color{red}{X})=\beta_0 + \beta_1\color{red}{x_1} + \beta_2\color{red}{x_2} $$
Modèles linéaires généralisés en Python

Analyse de covariance

  • Variables explicatives
    • $x_1$ : catégorielle (binaire)
    • $x_2$ : continue
  • Modèle logistique $$ \text{logit}(y=1|X)=\beta_0 + \beta_1\color{red}{x_1} + \beta_2x_2 $$

  • Si $x_1=0$ alors $$ \text{logit}(y=1|\color{red}{x_1=0},x_2)=\beta_0 + \color{red}{0} + \beta_2x_2 $$

Modèles linéaires généralisés en Python

Analyse de covariance

  • Variables explicatives
    • $x_1$ : catégorielle (binaire)
    • $x_2$ : continue
  • Modèle logistique $$ \text{logit}(y=1|X)=\beta_0 + \beta_1\color{red}{x_1} + \beta_2x_2 $$

  • Si $x_1=0$ alors $$ \text{logit}(y=1|x_1=0,x_2)=\beta_0 + 0 + \beta_2x_2 $$

  • Si $x_1 = 1$ alors $$ \text{logit}(y=1|\color{red}{x_1=1},x_2)=\beta_0 + \color{red}{\beta_1} + \beta_2x_2 $$ $$ \text{logit}(y=1|\color{red}{x_1=1},x_2)=(\beta_0 + \color{red}{\beta_1}) + \beta_2x_2 $$

Modèles linéaires généralisés en Python

Hypothèses

Visualisation du cas sans interaction avec des droites parallèles.

Modèles linéaires généralisés en Python

Hypothèses

Mise en évidence de la différence d'ordonnée à l'origine dans un modèle sans interaction.

Modèles linéaires généralisés en Python

Hypothèses

Modèle sans interaction

Droites non parallèles menant à un modèle avec termes d'interaction.

Modèles linéaires généralisés en Python

Interactions

  • Pentes inégales $\rightarrow$ présence d'interaction
  • L'effet de $x_1$ sur $y$ dépend du niveau de $x_2$ et vice versa
  • Modèle logistique avec interaction $$ \text{logit}(y=1|X)=\beta_0 + \beta_1x_1 + \beta_2x_2 + \color{red}{\beta_3x_1x_2} $$
Modèles linéaires généralisés en Python

Interactions

  • Pentes inégales $\rightarrow$ présence d'interaction
  • L'effet de $x_1$ sur $y$ dépend du niveau de $x_2$ et vice versa
  • Modèle logistique avec interaction $$ \text{logit}(y=1|X)=\beta_0 + \beta_1x_1 + \beta_2x_2 + \beta_3x_1x_2 $$

  • Si $x_1=0$ alors $$ \text{logit}(y=1|\color{red}{x_1=0},x_2)=\beta_0 + \color{red}{0} + \beta_2x_2 + \color{red}{0} $$

Modèles linéaires généralisés en Python

Interactions

  • Pentes inégales $\rightarrow$ présence d'interaction
  • L'effet de $x_1$ sur $y$ dépend du niveau de $x_2$ et vice versa
  • Modèle logistique avec interaction $$ \text{logit}(y=1|X)=\beta_0 + \beta_1x_1 + \beta_2x_2 + \beta_3x_1x_2 $$

  • Si $x_1=0$ alors $$ \text{logit}(y=1|x_1=0,x_2)=\beta_0 + \beta_2x_2 $$

  • Si $x_1 = 1$ alors $$ \text{logit}(y=1|\color{red}{x_1=1},x_2)=\beta_0 + \color{red}{\beta_1} + \beta_2x_2 + \color{red}{\beta_3}x_2 $$ $$ \text{logit}(y=1|\color{red}{x_1=1},x_2)=(\beta_0 + \color{red}{\beta_1}) + (\beta_2 + \color{red}{\beta_3})x_2 $$

Modèles linéaires généralisés en Python

Interactions

  • Pentes inégales $\rightarrow$ présence d'interaction
  • L'effet de $x_1$ sur $y$ dépend du niveau de $x_2$ et vice versa
  • Modèle logistique avec interaction $$ \text{logit}(y=1|X)=\beta_0 + \beta_1x_1 + \beta_2x_2 + \beta_3x_1x_2 $$

  • Si $x_1=0$ alors $$ \text{logit}(y=1|x_1=0,x_2)=\color{red}{\beta_0} + \color{red}{\beta_2}x_2 $$

  • Si $x_1 = 1$ alors $$ \text{logit}(y=1|x_1=1,x_2)=\beta_0 + \beta_1 + \beta_2x_2 + \beta_3x_2 $$ $$ \text{logit}(y=1|x_1=1,x_2)=\color{red}{(\beta_0 + \beta_1)} + \color{red}{(\beta_2 + \beta_3)}x_2 $$

Modèles linéaires généralisés en Python

Visualiser les interactions

Représentation d'un modèle avec terme d'interaction (droites non parallèles).

Les interactions permettent :

  • ordonnée à l'origine et pente différentes selon $x_1$
  • $\beta_1$ : différence entre les deux ordonnées à l'origine
  • $\beta_3$ : différence entre les deux pentes
Modèles linéaires généralisés en Python

Types d'interaction

  • binaire $\times$ binaire
  • binaire $\times$ catégorielle
  • binaire $\times$ continue
  • continue $\times$ catégorielle
  • continue $\times$ continue
  • catégorielle $\times$ catégorielle
  • interactions de plus de 2 variables
Modèles linéaires généralisés en Python

Passons à la pratique !

Modèles linéaires généralisés en Python

Preparing Video For Download...