Kategoriska variabler och interaktionstermer

Generaliserade linjära modeller i Python

Ita Cirovic Donev

Data Science Consultant

Kategoriska variabler

  • Enkel binär variabel
    • Yes, No
  • Nominala variabler
    • Färg: red, green, blue
  • Ordinala variabler
    • Utbildningsnivå: Education1, Education2,...,Education4
Generaliserade linjära modeller i Python

Kovariansanalys

  • Förklarande variabler

    • $x_1$: kategorisk (binär)
    • $x_2$: kontinuerlig

  • Logistisk modell $$ \text{logit}(y=1|X)=\beta_0 + \beta_1x_1 + \beta_2x_2 $$

Generaliserade linjära modeller i Python

Kovariansanalys

  • Förklarande variabler
    • $x_1$: kategorisk (binär)
    • $x_2$: kontinuerlig
  • Logistisk modell $$ \text{logit}(y=1|\color{red}{X})=\beta_0 + \beta_1\color{red}{x_1} + \beta_2\color{red}{x_2} $$
Generaliserade linjära modeller i Python

Kovariansanalys

  • Förklarande variabler
    • $x_1$: kategorisk (binär)
    • $x_2$: kontinuerlig

  • Logistisk modell $$ \text{logit}(y=1|X)=\beta_0 + \beta_1\color{red}{x_1} + \beta_2x_2 $$

  • Om $x_1=0$ gäller $$ \text{logit}(y=1|\color{red}{x_1=0},x_2)=\beta_0 + \color{red}{0} + \beta_2x_2 $$

Generaliserade linjära modeller i Python

Kovariansanalys

  • Förklarande variabler
    • $x_1$: kategorisk (binär)
    • $x_2$: kontinuerlig

  • Logistisk modell $$ \text{logit}(y=1|X)=\beta_0 + \beta_1\color{red}{x_1} + \beta_2x_2 $$

  • Om $x_1=0$ gäller $$ \text{logit}(y=1|x_1=0,x_2)=\beta_0 + 0 + \beta_2x_2 $$

  • Om $x_1 = 1$ gäller $$ \text{logit}(y=1|\color{red}{x_1=1},x_2)=\beta_0 + \color{red}{\beta_1} + \beta_2x_2 $$ $$ \text{logit}(y=1|\color{red}{x_1=1},x_2)=(\beta_0 + \color{red}{\beta_1}) + \beta_2x_2 $$

Generaliserade linjära modeller i Python

Antaganden

Visualisering av fallet utan interaktion med parallella linjer.

Generaliserade linjära modeller i Python

Antaganden

Markering av skillnaden i intercept i modellen utan interaktion.

Generaliserade linjära modeller i Python

Antaganden

Modell utan interaktion

Icke-parallella linjer som leder till en modell med interaktionstermer.

Generaliserade linjära modeller i Python

Interaktioner

  • Ojämlika lutningar $\rightarrow$ förekomst av interaktion
  • Effekten av $x_1$ på $y$ beror på nivån hos $x_2$ och vice versa
  • Logistisk modell med interaktioner $$ \text{logit}(y=1|X)=\beta_0 + \beta_1x_1 + \beta_2x_2 + \color{red}{\beta_3x_1x_2} $$
Generaliserade linjära modeller i Python

Interaktioner

  • Ojämlika lutningar $\rightarrow$ förekomst av interaktion
  • Effekten av $x_1$ på $y$ beror på nivån hos $x_2$ och vice versa

  • Logistisk modell med interaktioner $$ \text{logit}(y=1|X)=\beta_0 + \beta_1x_1 + \beta_2x_2 + \beta_3x_1x_2 $$

  • Om $x_1=0$ gäller $$ \text{logit}(y=1|\color{red}{x_1=0},x_2)=\beta_0 + \color{red}{0} + \beta_2x_2 + \color{red}{0} $$

Generaliserade linjära modeller i Python

Interaktioner

  • Ojämlika lutningar $\rightarrow$ förekomst av interaktion
  • Effekten av $x_1$ på $y$ beror på nivån hos $x_2$ och vice versa

  • Logistisk modell med interaktioner $$ \text{logit}(y=1|X)=\beta_0 + \beta_1x_1 + \beta_2x_2 + \beta_3x_1x_2 $$

  • Om $x_1=0$ gäller $$ \text{logit}(y=1|x_1=0,x_2)=\beta_0 + \beta_2x_2 $$

  • Om $x_1 = 1$ gäller $$ \text{logit}(y=1|\color{red}{x_1=1},x_2)=\beta_0 + \color{red}{\beta_1} + \beta_2x_2 + \color{red}{\beta_3}x_2 $$ $$ \text{logit}(y=1|\color{red}{x_1=1},x_2)=(\beta_0 + \color{red}{\beta_1}) + (\beta_2 + \color{red}{\beta_3})x_2 $$

Generaliserade linjära modeller i Python

Interaktioner

  • Ojämlika lutningar $\rightarrow$ förekomst av interaktion
  • Effekten av $x_1$ på $y$ beror på nivån hos $x_2$ och vice versa

  • Logistisk modell med interaktioner $$ \text{logit}(y=1|X)=\beta_0 + \beta_1x_1 + \beta_2x_2 + \beta_3x_1x_2 $$

  • Om $x_1=0$ gäller $$ \text{logit}(y=1|x_1=0,x_2)=\color{red}{\beta_0} + \color{red}{\beta_2}x_2 $$

  • Om $x_1 = 1$ gäller $$ \text{logit}(y=1|x_1=1,x_2)=\beta_0 + \beta_1 + \beta_2x_2 + \beta_3x_2 $$ $$ \text{logit}(y=1|x_1=1,x_2)=\color{red}{(\beta_0 + \beta_1)} + \color{red}{(\beta_2 + \beta_3)}x_2 $$

Generaliserade linjära modeller i Python

Visualisering av interaktioner

Representation av modell med interaktionsterm (icke-parallella linjer).

Interaktioner möjliggör:

  • skilda intercept och lutningar för $x_1$
  • $\beta_1$: skillnaden mellan de två intercepten
  • $\beta_3$: skillnaden mellan de två lutningarna
Generaliserade linjära modeller i Python

Typer av interaktioner

  • binär $\times$ binär
  • binär $\times$ kategorisk
  • binär $\times$ kontinuerlig
  • kontinuerlig $\times$ kategorisk
  • kontinuerlig $\times$ kontinuerlig
  • kategorisk $\times$ kategorisk
  • interaktioner med fler än 2 variabler
Generaliserade linjära modeller i Python

Nu kör vi en övning!

Generaliserade linjära modeller i Python

Preparing Video For Download...