Категоріальні та взаємодіючі терміни

Узагальнені лінійні моделі в Python

Ita Cirovic Donev

Data Science Consultant

Категоріальні змінні

  • Проста бінарна змінна
    • Yes, No
  • Номінальні змінні
    • Колір: red, green, blue
  • Порядкові змінні
    • Рівні освіти: Education1, Education2,...,Education4
Узагальнені лінійні моделі в Python

Аналіз коваріації

  • Пояснювальні змінні

    • $x_1$: категоріальна (бінарна)
    • $x_2$: неперервна
  • Логістична модель $$ \text{logit}(y=1|X)=\beta_0 + \beta_1x_1 + \beta_2x_2 $$

Узагальнені лінійні моделі в Python

Аналіз коваріації

  • Пояснювальні змінні
    • $x_1$: категоріальна (бінарна)
    • $x_2$: неперервна
  • Логістична модель $$ \text{logit}(y=1|\color{red}{X})=\beta_0 + \beta_1\color{red}{x_1} + \beta_2\color{red}{x_2} $$
Узагальнені лінійні моделі в Python

Аналіз коваріації

  • Пояснювальні змінні
    • $x_1$: категоріальна (бінарна)
    • $x_2$: неперервна
  • Логістична модель $$ \text{logit}(y=1|X)=\beta_0 + \beta_1\color{red}{x_1} + \beta_2x_2 $$

  • Якщо $x_1=0$, то $$ \text{logit}(y=1|\color{red}{x_1=0},x_2)=\beta_0 + \color{red}{0} + \beta_2x_2 $$

Узагальнені лінійні моделі в Python

Аналіз коваріації

  • Пояснювальні змінні
    • $x_1$: категоріальна (бінарна)
    • $x_2$: неперервна
  • Логістична модель $$ \text{logit}(y=1|X)=\beta_0 + \beta_1\color{red}{x_1} + \beta_2x_2 $$

  • Якщо $x_1=0$, то $$ \text{logit}(y=1|x_1=0,x_2)=\beta_0 + 0 + \beta_2x_2 $$

  • Якщо $x_1 = 1$, то $$ \text{logit}(y=1|\color{red}{x_1=1},x_2)=\beta_0 + \color{red}{\beta_1} + \beta_2x_2 $$ $$ \text{logit}(y=1|\color{red}{x_1=1},x_2)=(\beta_0 + \color{red}{\beta_1}) + \beta_2x_2 $$

Узагальнені лінійні моделі в Python

Припущення

Візуалізація випадку без взаємодії з паралельними прямими.

Узагальнені лінійні моделі в Python

Припущення

Підсвічено різницю в перетині в моделі без взаємодії.

Узагальнені лінійні моделі в Python

Припущення

Модель без взаємодії

Непаралельні прямі ведуть до моделі з термінами взаємодії.

Узагальнені лінійні моделі в Python

Взаємодії

  • Різні нахили $\rightarrow$ є взаємодія
  • Вплив $x_1$ на $y$ залежить від рівня $x_2$ і навпаки
  • Логістична модель з урахуванням взаємодії $$ \text{logit}(y=1|X)=\beta_0 + \beta_1x_1 + \beta_2x_2 + \color{red}{\beta_3x_1x_2} $$
Узагальнені лінійні моделі в Python

Взаємодії

  • Різні нахили $\rightarrow$ є взаємодія
  • Вплив $x_1$ на $y$ залежить від рівня $x_2$ і навпаки
  • Логістична модель з урахуванням взаємодії $$ \text{logit}(y=1|X)=\beta_0 + \beta_1x_1 + \beta_2x_2 + \beta_3x_1x_2 $$

  • Якщо $x_1=0$, то $$ \text{logit}(y=1|\color{red}{x_1=0},x_2)=\beta_0 + \color{red}{0} + \beta_2x_2 + \color{red}{0} $$

Узагальнені лінійні моделі в Python

Взаємодії

  • Різні нахили $\rightarrow$ є взаємодія
  • Вплив $x_1$ на $y$ залежить від рівня $x_2$ і навпаки
  • Логістична модель з урахуванням взаємодії $$ \text{logit}(y=1|X)=\beta_0 + \beta_1x_1 + \beta_2x_2 + \beta_3x_1x_2 $$

  • Якщо $x_1=0$, то $$ \text{logit}(y=1|x_1=0,x_2)=\beta_0 + \beta_2x_2 $$

  • Якщо $x_1 = 1$, то $$ \text{logit}(y=1|\color{red}{x_1=1},x_2)=\beta_0 + \color{red}{\beta_1} + \beta_2x_2 + \color{red}{\beta_3}x_2 $$ $$ \text{logit}(y=1|\color{red}{x_1=1},x_2)=(\beta_0 + \color{red}{\beta_1}) + (\beta_2 + \color{red}{\beta_3})x_2 $$

Узагальнені лінійні моделі в Python

Взаємодії

  • Різні нахили $\rightarrow$ є взаємодія
  • Вплив $x_1$ на $y$ залежить від рівня $x_2$ і навпаки
  • Логістична модель з урахуванням взаємодії $$ \text{logit}(y=1|X)=\beta_0 + \beta_1x_1 + \beta_2x_2 + \beta_3x_1x_2 $$

  • Якщо $x_1=0$, то $$ \text{logit}(y=1|x_1=0,x_2)=\color{red}{\beta_0} + \color{red}{\beta_2}x_2 $$

  • Якщо $x_1 = 1$, то $$ \text{logit}(y=1|x_1=1,x_2)=\beta_0 + \beta_1 + \beta_2x_2 + \beta_3x_2 $$ $$ \text{logit}(y=1|x_1=1,x_2)=\color{red}{(\beta_0 + \beta_1)} + \color{red}{(\beta_2 + \beta_3)}x_2 $$

Узагальнені лінійні моделі в Python

Візуалізація взаємодій

Подання моделі з терміном взаємодії (непаралельні прямі).

Взаємодії дозволяють:

  • різні перетин і нахил для $x_1$
  • $\beta_1$: різниця між двома перетинами
  • $\beta_3$: різниця між двома нахилами
Узагальнені лінійні моделі в Python

Типи взаємодій

  • бінарна $\times$ бінарна
  • бінарна $\times$ категоріальна
  • бінарна $\times$ неперервна
  • неперервна $\times$ категоріальна
  • неперервна $\times$ неперервна
  • категоріальна $\times$ категоріальна
  • взаємодії за участі понад 2 змінних
Узагальнені лінійні моделі в Python

Давайте потренуємось!

Узагальнені лінійні моделі в Python

Preparing Video For Download...