Интерпретация качества модели

Обобщённые линейные модели в Python

Ita Cirovic Donev

Data Science Consultant

Оценка параметров

  • Метод максимального правдоподобия (MLE)
  • Итерационно перевзвешенный МНК (IRLS)
Обобщённые линейные модели в Python

Функция отклика

  • Модель Пуассоновской регрессии $$ log(\lambda)=\beta_0+\beta_1x_1 $$

  • Функция отклика: $$ \lambda=exp(\beta_0 + \beta_1x_1) $$                                                  или $$ \lambda=exp(\beta_0) \times exp(\beta_1x_1) $$

Обобщённые линейные модели в Python

Функция отклика

  • Модель Пуассоновской регрессии $$ log(\lambda)=\beta_0+\beta_1x_1 $$

  • Функция отклика: $$ \lambda=exp(\beta_0 + \beta_1x_1) $$                                                  или $$ \lambda=exp(\beta_0) \color{red}{\times} exp(\beta_1x_1) $$

Обобщённые линейные модели в Python

Интерпретация параметров

  • $exp(\beta_0)$

    • Влияние на среднее $\lambda$ при $x=0$
  • $exp(\beta_1)$

    • Мультипликативный эффект на среднее $\lambda$ при увеличении $x$ на 1
Обобщённые линейные модели в Python

Интерпретация эффекта коэффициента

  • Если $\color{#FF550D}{\beta_1 > 0}$
    • $exp(\beta_1)>1$
    • $\lambda$ $\color{#FF550D}{\text{в } exp(\beta_1) \text{ раз больше}}$, чем при $x=0$
  • Если $\color{#D04A73}{\beta<0}$
    • $exp(\beta_1)<1$
    • $\lambda$ $\color{#D04A73}{\text{в } exp(\beta_1) \text{ раз меньше}}$, чем при $x=0$
  • Если $\color{#0099FF}{\beta_1 = 0}$
    • $exp(\beta_1)=1$
    • $\lambda=exp(\beta_0)$
    • Мультипликативный множитель равен 1
    • $y$ и $x$ $\text{\color{#0099FF}{не связаны}}$
Обобщённые линейные модели в Python

Пример

model = glm('sat ~ weight', data = crab, 
            family = sm.families.Poisson()).fit()
                 Generalized Linear Model Regression Results (print cut)                 
=============================================================================
                 coef    std err          z      P>|z|      [0.025     0.975]
-----------------------------------------------------------------------------
Intercept     -0.4284      0.179     -2.394      0.017      -0.779     -0.078
weight         0.5893      0.065      9.064      0.000       0.462      0.717
=============================================================================
Обобщённые линейные модели в Python

Пример — интерпретация бета

  • Извлечение коэффициентов модели
    model.params
    
Intercept   -0.428405
weight       0.589304
  • Вычисление эффекта
    np.exp(0.589304)
    
1.803
Обобщённые линейные модели в Python

Доверительный интервал для ...

  • $\beta_1$
print(model.conf_int())
                  0         1
Intercept -0.779112 -0.077699
weight     0.461873  0.716735
  • Мультипликативный эффект на среднее
print(np.exp(crab_fit.conf_int()))
                  0         1
Intercept  0.458813  0.925243
weight     1.587044  2.047737
Обобщённые линейные модели в Python

Давайте потренируемся!

Обобщённые линейные модели в Python

Preparing Video For Download...