Regressão Bayesiana no RJAGS

Modelagem Bayesiana com RJAGS

Alicia Johnson

Associate Professor, Macalester College

Modelo de regressão Bayesiana

$Y_i$ = peso do adulto $i$ (kg)
$X_i$ = altura do adulto $i$ (cm)

$\;$

Modelo

$Y_i \sim N(m_i, s^2)$
$m_i = a + b X_i$

$a \sim N(0, 200^2)$
$b \sim N(1, 0.5^2)$
$s \sim \text{Unif}(0, 20)$

Modelagem Bayesiana com RJAGS

Intuição dos priors

Modelagem Bayesiana com RJAGS

Intuição dos dados observados de peso e altura

$Y_i \sim N(m_i, s^2)$
$m_i = a + b X_i$

wt_mod <- lm(wgt ~ hgt, bdims)
coef(wt_mod)
(Intercept)         hgt 
-105.011254    1.017617 
summary(wt_mod)$sigma
9.30804
Modelagem Bayesiana com RJAGS

DEFINIR o modelo de regressão

weight_model <- "model{
    # Likelihood model for Y[i]





    # Prior models for a, b, s




}"  
Modelagem Bayesiana com RJAGS

DEFINIR o modelo de regressão

weight_model <- "model{
    # Likelihood model for Y[i]
    for(i in 1:length(Y)) {


    }

    # Prior models for a, b, s




}"  
  • $Y_i \sim N(m_i, s^2)$ para $i$ de 1 a 507
Modelagem Bayesiana com RJAGS

DEFINIR o modelo de regressão

weight_model <- "model{
    # Likelihood model for Y[i]
    for(i in 1:length(Y)) {
      Y[i] ~ dnorm(m[i], s^(-2))

    }

    # Prior models for a, b, s




}"  
  • $Y_i \sim N(m_i, s^2)$ para $i$ de 1 a 507
Modelagem Bayesiana com RJAGS

DEFINIR o modelo de regressão

weight_model <- "model{
    # Likelihood model for Y[i]
    for(i in 1:length(Y)) {
      Y[i] ~ dnorm(m[i], s^(-2))
      m[i] <- a + b * X[i]
    }

    # Prior models for a, b, s




}"  
  • $Y_i \sim N(m_i, s^2)$ para $i$ de 1 a 507
  • $m_i = a + b X_i$
    • "OBS.:" use <- e não ~
Modelagem Bayesiana com RJAGS

DEFINIR o modelo de regressão

weight_model <- "model{
    # Likelihood model for Y[i]
    for(i in 1:length(Y)) {
      Y[i] ~ dnorm(m[i], s^(-2))
      m[i] <- a + b * X[i]
    }

    # Prior models for a, b, s
    a ~ dnorm(0, 200^(-2))
    b ~ dnorm(1, 0.5^(-2))
    s ~ dunif(0, 20)

}"  
  • $Y_i \sim N(m_i, s^2)$ para $i$ de 1 a 507
  • $m_i = a + b X_i$

    • "OBS.:" use <- e não ~
  • $a \sim N(0, 200^2)$

  • $b \sim N(1, 0.5^2)$
  • $s \sim \text{Unif}(0, 20)$
Modelagem Bayesiana com RJAGS

COMPILAR o modelo de regressão

# COMPILE the model    
weight_jags <- jags.model(textConnection(weight_model), 
    data = list(X = bdims$hgt, Y = bdims$wgt),
    inits = list(.RNG.name = "base::Wichmann-Hill", .RNG.seed = 2018))

dim(bdims)
507  25
head(bdims$hgt)

head(bdims$wgt)
174.0 175.3 193.5 186.5 187.2 181.5

65.6 71.8 80.7 72.6 78.8 74.8
Modelagem Bayesiana com RJAGS

SIMULAR o modelo de regressão

# COMPILE the model    
weight_jags <- jags.model(textConnection(weight_model), 
    data = list(X = bdims$hgt, Y = bdims$wgt),
    inits = list(.RNG.name = "base::Wichmann-Hill", 
                 .RNG.seed = 2018))

# SIMULATE the posterior
weight_sim <- coda.samples(model = weight_jags, 
    variable.names = c("a", "b", "s"), 
    n.iter = 10000)
Modelagem Bayesiana com RJAGS

Modelagem Bayesiana com RJAGS

Lidando com instabilidade da cadeia de Markov

  • Padronize o preditor de altura (subtraia a média e divida pelo desvio padrão)

  • Aumente o tamanho da cadeia

Modelagem Bayesiana com RJAGS

Modelagem Bayesiana com RJAGS

Intuições do posterior

Modelagem Bayesiana com RJAGS

Vamos praticar!

Modelagem Bayesiana com RJAGS

Preparing Video For Download...