Пуассоновская регрессия

Байесовское моделирование с RJAGS

Alicia Johnson

Associate Professor, Macalester College

Нормальная структура правдоподобия

$Y$ = объём (# пользователей) за день
$Y \sim N(m, s^2)$

Технически...

Нормальная модель предполагает, что $Y$ непрерывна и может быть отрицательной.
Но $Y$ — дискретный счётчик и не может быть отрицательным.

Модель Пуассона

$Y$ = объём (# пользователей) за день
$Y \sim \text{Pois}(l)$

$Y$ — количество независимых событий в фиксированном интервале (0, 1, 2,...).
Параметр интенсивности $l$ — типичное число событий за интервал времени
($l > 0$).

Модель Пуассона

$Y$ = объём (# пользователей) за день
$Y \sim \text{Pois}(l)$

$Y$ — количество независимых событий в фиксированном интервале (0, 1, 2,...).
Параметр интенсивности $l$ — типичное число событий за интервал времени
($l > 0$).

Модель Пуассона

$Y$ = объём (# пользователей) за день
$Y \sim \text{Pois}(l)$

$Y$ — количество независимых событий в фиксированном интервале (0, 1, 2,...).
Параметр интенсивности $l$ — типичное число событий за интервал времени
($l > 0$).

Модель Пуассона

$Y$ = объём (# пользователей) за день
$Y \sim \text{Pois}(l)$

$Y$ — количество независимых событий в фиксированном интервале (0, 1, 2,...).
Параметр интенсивности $l$ — типичное число событий за интервал времени
($l > 0$).

Пуассоновская регрессия

$Y_i \sim \text{Pois}(l_i)$, где $l_i > 0$

Пуассоновская регрессия

$Y_i \sim \text{Pois}(l_i)$, где $l_i > 0$

$l_i = a + b X_i + c Z_i$

$\;$

Пуассоновская регрессия

$Y_i \sim \text{Pois}(l_i)$, где $l_i > 0$

$l_i = a + b X_i + c Z_i$

$\;$

Проблема:
Прямая связь $l_i$ с линейной моделью допускает отрицательные значения $l_i$.

Пуассоновская регрессия

$Y_i \sim \text{Pois}(l_i)$, где $l_i > 0$

$log(l_i) = a + b X_i + c Z_i$

$\;$

Решение:
Используйте логарифмическую функцию связи для связи $l_i$ с линейной моделью. Тогда:

$$l_i = e^{a + b X_i + c Z_i}$$

Пуассоновская регрессия

$Y_i \sim \text{Pois}(l_i)$, где $l_i > 0$

$log(l_i) = a + b X_i + c Z_i$

$\;$

Решение:
Используйте логарифмическую функцию связи для связи $l_i$ с линейной моделью. Тогда:

$$l_i = e^{a + b X_i + c Z_i}$$

Пуассоновская регрессия в RJAGS

$Y_i \sim \text{Pois}(l_i)$
$log(l_i) = a + b X_i + c Z_i$
$a \sim N(0, 200^2)$
$b \sim N(0, 2^2)$
$c \sim N(0, 2^2)$

poisson_model <- "model{
  # Likelihood model for Y[i]





  # Prior models for a, b, c




}"

Пуассоновская регрессия в RJAGS

$Y_i \sim \text{Pois}(l_i)$
$log(l_i) = a + b X_i + c Z_i$
$a \sim N(0, 200^2)$
$b \sim N(0, 2^2)$
$c \sim N(0, 2^2)$

poisson_model <- "model{
  # Likelihood model for Y[i]





  # Prior models for a, b, c
  a ~ dnorm(0, 200^(-2))
  b[1] <- 0
  b[2] ~ dnorm(0, 2^(-2))
  c ~ dnorm(0, 2^(-2))
}"

Пуассоновская регрессия в RJAGS

$Y_i \sim \text{Pois}(l_i)$
$log(l_i) = a + b X_i + c Z_i$
$a \sim N(0, 200^2)$
$b \sim N(0, 2^2)$
$c \sim N(0, 2^2)$

poisson_model <- "model{
  # Likelihood model for Y[i]
  for(i in 1:length(Y)) {
   Y[i] ~ dpois(l[i])

  }

  # Prior models for a, b, c
  a ~ dnorm(0, 200^(-2))
  b[1] <- 0
  b[2] ~ dnorm(0, 2^(-2))
  c ~ dnorm(0, 2^(-2))
}"

Пуассоновская регрессия в RJAGS

$Y_i \sim \text{Pois}(l_i)$
$log(l_i) = a + b X_i + c Z_i$
$a \sim N(0, 200^2)$
$b \sim N(0, 2^2)$
$c \sim N(0, 2^2)$

poisson_model <- "model{
  # Likelihood model for Y[i]
  for(i in 1:length(Y)) {
   Y[i] ~ dpois(l[i])
   log(l[i]) <- a + b[X[i]] + c*Z[i]
  }

  # Prior models for a, b, c
  a ~ dnorm(0, 200^(-2))
  b[1] <- 0
  b[2] ~ dnorm(0, 2^(-2))
  c ~ dnorm(0, 2^(-2))
}"

Оговорки

$Y \sim \text{Pois}(l_i)$

Допущение: для дней со схожей температурой и статусом рабочего дня дисперсия $Y_i$ равна среднему $Y_i$.
Данные демонстрируют возможную сверхдисперсию — дисперсия превышает среднее.
Модель не идеальна, но подходит как отправная точка.

Давайте потренируемся!

Байесовское моделирование с RJAGS