Hồi quy Bayesian với biến dự báo phân loại

Mô hình hóa Bayesian với RJAGS

Alicia Johnson

Associate Professor, Macalester College

Mục tiêu Chương 4

Thêm biến dự báo phân loại vào mô hình Bayesian
Xây dựng mô hình hồi quy Bayesian đa biến
Mở rộng phương pháp hồi quy chuẩn sang mô hình tuyến tính tổng quát: hồi quy Poisson

Lưu lượng trên đường mòn đường sắt

Mục tiêu:
Khám phá lưu lượng hàng ngày trên tuyến đường sắt ở Massachusetts.

¹ Ảnh: commons.wikimedia.org

Mô hình hóa lưu lượng

$Y_i$ = lưu lượng trên đường mòn (# người dùng) trong ngày $i$ $ \; $
$ \;$

Mô hình
$Y_i \sim N(m_i, s^2)$

Mô hình theo ngày trong tuần

$Y_i$ = lưu lượng trên đường mòn (# người dùng) trong ngày $i$
$X_i$ = 1 cho ngày trong tuần, 0 cho cuối tuần

Mô hình
$Y_i \sim N(m_i, s^2)$

Mô hình theo ngày trong tuần

$Y_i$ = lưu lượng trên đường mòn (# người dùng) trong ngày $i$
$X_i$ = 1 cho ngày trong tuần, 0 cho cuối tuần

Mô hình
$Y_i \sim N(m_i, s^2)$

Mô hình theo ngày trong tuần

$Y_i$ = lưu lượng trên đường mòn (# người dùng) trong ngày $i$
$X_i$ = 1 cho ngày trong tuần, 0 cho cuối tuần

Mô hình
$Y_i \sim N(m_i, s^2)$
$m_i = a + bX_i$

Mô hình theo ngày trong tuần

$Y_i$ = lưu lượng trên đường mòn (# người dùng) trong ngày $i$
$X_i$ = 1 cho ngày trong tuần, 0 cho cuối tuần

Mô hình
$Y_i \sim N(m_i, s^2)$
$m_i = a + bX_i$

$a$ = lưu lượng cuối tuần điển hình

$Y_i$ = lưu lượng trên đường mòn (# người dùng) trong ngày $i$
$X_i$ = 1 cho ngày trong tuần, 0 cho cuối tuần

Mô hình
$Y_i \sim N(m_i, s^2)$
$m_i = a + bX_i$

$a$ = lưu lượng cuối tuần điển hình
$a + b$ = lưu lượng ngày trong tuần điển hình

$b$ = độ chênh giữa lưu lượng ngày trong tuần và cuối tuần
$s$ = độ lệch chuẩn phần dư

Tiên nghiệm cho $a$ & $b$

Lưu lượng cuối tuần điển hình nhiều khả năng khoảng 400 người/ngày, nhưng có thể thấp tới 100 hoặc cao tới 700.

Ta chưa chắc lưu lượng ngày trong tuần so với cuối tuần: có thể nhiều hơn hoặc ít hơn.

Tiên nghiệm cho $s$

$\;$

Độ lệch chuẩn của lưu lượng theo ngày (dù ngày trong tuần hay cuối tuần) có khả năng ngang nhau trong khoảng 0 đến 200 người.

Mô hình Bayesian theo trạng thái ngày trong tuần

$Y_i \sim N(m_i, s^2)$
$m_i = a + b X_i$
$a \sim N(400, 100^2)$
$b \sim N(0, 200^2)$
$s \sim \text{Unif}(0, 200)$

ĐỊNH NGHĨA mô hình Bayesian trong RJAGS

$Y_i \sim N(m_i, s^2)$
$m_i = a + b X_i$
$a \sim N(400, 100^2)$
$b \sim N(0, 200^2)$
$s \sim \text{Unif}(0, 200)$

rail_model_1 <- "model{
    # Likelihood model for Y[i]





    # Prior models for a, b, s




}"

ĐỊNH NGHĨA mô hình Bayesian trong RJAGS

$Y_i \sim N(m_i, s^2)$
$m_i = a + b X_i$
$a \sim N(400, 100^2)$
$b \sim N(0, 200^2)$
$s \sim \text{Unif}(0, 200)$

rail_model_1 <- "model{
    # Likelihood model for Y[i]
    for(i in 1:length(Y)) {
        Y[i] ~ dnorm(m[i], s^(-2))

    }

    # Prior models for a, b, s
    a ~ dnorm(400, 100^(-2))
    s ~ dunif(0, 200)


}"

ĐỊNH NGHĨA mô hình Bayesian trong RJAGS

m[i] <- a + b[X[i]]

X[1] = cuối tuần, X[2] = ngày trong tuần
b có 2 mức: b[1], b[2]
xu hướng cuối tuần ($m_i = a$)
m[i] <- a + b[1]

rail_model_1 <- "model{
    # Likelihood model for Y[i]
    for(i in 1:length(Y)) {
        Y[i] ~ dnorm(m[i], s^(-2))
        m[i] <- a + b[X[i]]
    }

    # Prior models for a, b, s
    a ~ dnorm(400, 100^(-2))
    s ~ dunif(0, 200)


}"

ĐỊNH NGHĨA mô hình Bayesian trong RJAGS

m[i] <- a + b[X[i]]

X[1] = cuối tuần, X[2] = ngày trong tuần
b có 2 mức: b[1], b[2]
xu hướng cuối tuần ($m_i = a$)
m[i] <- a + b[1]
b[1] <- 0

rail_model_1 <- "model{
    # Likelihood model for Y[i]
    for(i in 1:length(Y)) {
        Y[i] ~ dnorm(m[i], s^(-2))
        m[i] <- a + b[X[i]]
    }

    # Prior models for a, b, s
    a ~ dnorm(400, 100^(-2))
    s ~ dunif(0, 200)
    b[1] <- 0

}"

ĐỊNH NGHĨA mô hình Bayesian trong RJAGS

m[i] <- a + b[X[i]]

X[1] = cuối tuần,X[2] = ngày trong tuần
b có 2 mức: b[1], b[2]
xu hướng cuối tuần ($m_i = a$)
m[i] <- a + b[1]
b[1] <- 0
ngày trong tuần ($m_i = a + b$)
m[i] <- a + b[2]

rail_model_1 <- "model{
    # Likelihood model for Y[i]
    for(i in 1:length(Y)) {
        Y[i] ~ dnorm(m[i], s^(-2))
        m[i] <- a + b[X[i]]
    }

    # Prior models for a, b, s
    a ~ dnorm(400, 100^(-2))
    s ~ dunif(0, 200)
    b[1] <- 0
    b[2] ~ dnorm(0, 200^(-2))
}"

b[2] ~ dnorm(0, 200^(-2))

Cùng luyện tập nào!

Mô hình hóa Bayesian với RJAGS

Preparing Video For Download...