Інтерпретація коефіцієнтів

Узагальнені лінійні моделі в Python

Ita Cirovic Donev

Data Science Consultant

Коефіцієнти моделі

Статистичне зведення підгонки моделі з підсвіченим стовпцем coef.

Узагальнені лінійні моделі в Python

Коефіцієнт бета

  • $\beta > 0 \rightarrow$ зростальна крива

Логістична підгонка моделі для arsenic і switch.

  • $\beta < 0 \rightarrow$ спадна крива

Логістична підгонка моделі для distance100 і switch.

Узагальнені лінійні моделі в Python

Лінійна vs логістична

ЛІНІЙНА МОДЕЛЬ

glm('y ~ weight', 
    data = crab, 
    family = sm.families.Gaussian())

$\mu = -0.14 + \color{#B21AB4}{0.32}*weight$

За кожного збільшення weight на одну одиницю

  • $\text{\color{#B21AB4}{оцінена ймовірність}}$ зростає на 0,32

МОДЕЛЬ LOGIT

glm('y ~ weight', 
    data = crab, 
    family = sm.families.Binomial())

$log(odds) = -3.69 + \color{#228FF5}{1.8}*weight$

За кожного збільшення weight на одну одиницю

  • $\text{\color{#228FF5}{log(odds)}}$ збільшується на 1,8
Узагальнені лінійні моделі в Python

Інтерпретація log odds

  • Логістична модель $$ log(\frac{\mu}{1-\mu}) = \beta_0 + \beta_1x_1 $$

  • Збільшити $x$ на одну одиницю $$ log(\frac{\mu}{1-\mu}) = \beta_0 + \beta_1\color{blue}{(x_1+1)} $$

Узагальнені лінійні моделі в Python

Інтерпретація log odds

  • Логістична модель $$ log(\frac{\mu}{1-\mu}) = \beta_0 + \beta_1x_1 $$

  • Збільшити $x$ на одну одиницю $$ log(\frac{\mu}{1-\mu}) = \beta_0 + \beta_1\color{blue}{(x_1+1)} = \beta_0 + \color{blue}{\beta_1x_1+\beta_1} $$

  • Взяти експоненту $$ (\frac{\mu}{1-\mu}) = \color{red}{\exp(\beta_0 + \beta_1x_1)}\color{blue}{\exp(\beta_1)} $$

Висновок $\rightarrow$ $\color{red}{\text{шанс}}$ множиться на $\color{blue}{\exp(\beta_1)}$

Узагальнені лінійні моделі в Python

Інтерпретація log odds

  • Модель крабів y ~ weight $$ log(\frac{\mu}{1-\mu}) = -3.6947 + \color{blue}{1.815}*weight $$

  • Шанс наявності «satellite crab» множиться на $\color{blue}{\exp(1.815) = 6.14}$ за збільшення weight на одну одиницю

Узагальнені лінійні моделі в Python

Інтерпретація log odds

  • Модель крабів y ~ weight $$ log(\frac{\mu}{1-\mu}) = \color{blue}{-3.6947} + 1.8151*weight $$

  • Шанс наявності «satellite crab» множиться на $\exp(1.8151) = 6.14$ за збільшення weight на одну одиницю

  • Вільний член $\color{blue}{-3.6947}$ позначає базовий log odds
    • $\color{blue}{\exp(-3.6947)=0.0248}$ — це шанси за $weight = 0$.
Узагальнені лінійні моделі в Python

Ймовірність vs логістична підгонка

Логістична підгонка на діаграмі розсіювання годин навчання та складання/провалу тесту.

Узагальнені лінійні моделі в Python

Ймовірність vs логістична підгонка

Позначення невеликої зміни ймовірності за логістичної підгонки та значення пояснювальної змінної.

Узагальнені лінійні моделі в Python

Ймовірність vs логістична підгонка

Позначення значної зміни ймовірності за логістичної підгонки та значення пояснювальної змінної.

  • нахил $\rightarrow \beta \times \mu(1-\mu)$
Узагальнені лінійні моделі в Python

Ймовірність vs логістична підгонка

Позначення найбільшої зміни ймовірності за логістичної підгонки та значення пояснювальної змінної.

  • нахил $\rightarrow \beta \times \mu(1-\mu)$
Узагальнені лінійні моделі в Python

Обчислення зміни оціненої ймовірності

# Choose x (weight) and extract model coefficients
x = 1.5
intercept, slope = model_GLM.params

# Compute estimated probability
est_prob = np.exp(intercept + slope * x)/(1 + np.exp(intercept + slope * x))

0.2744

# Compute incremental change in estimated probability given x
ic_prob = slope * est_prob * (1 - est_prob)

0.3614
Узагальнені лінійні моделі в Python

Швидкість зміни ймовірності для кожного x

$logit = -3.6947 + 1.8151*weight$

Узагальнені лінійні моделі в Python

Давайте потренуємось!

Узагальнені лінійні моделі в Python

Preparing Video For Download...