Bayesovské porovnávání modelů

Bayesovská regresní analýza s balíčkem rstanarm

Jake Thompson

Psychometrician, ATLAS, University of Kansas

Balíček loo

LOO = leave-one-out
- Přibližná křížová validace
- ?loo-package
- Porovnávání modelů pomocí loo

Použití loo na jednom modelu

library(rstanarm)
library(loo)
stan_model <- stan_glm(kid_score ~ mom_iq, data = kidiq)

loo(stan_model)

Computed from 4000 by 434 log-likelihood matrix

         Estimate   SE
elpd_loo  -1878.5 14.5
p_loo         2.9  0.3
looic      3757.1 29.0
 ------
Monte Carlo SE of elpd_loo is 0.0.

All Pareto k estimates are good (k < 0.5).
See help('pareto-k-diagnostic') for details.

Porovnávání modelů pomocí loo

model_1pred <- stan_glm(kid_score ~ mom_iq, data = kidiq)
model_2pred <- stan_glm(kid_score ~ mom_iq * mom_hs, data = kidiq)

loo_1pred <- loo(model_1pred)
loo_2pred <- loo(model_2pred)

compare(loo_1pred, loo_2pred)

elpd_diff        se 
      6.1       3.9

Porovnávání modelů pomocí loo

compare(loo_1pred, loo_2pred)

elpd_diff        se 
      6.1       3.9

Kladná hodnota = preferovat druhý model
Záporná hodnota = preferovat první model
Signifikantní rozdíl?
- Absolutní hodnota rozdílu vůči směrodatné chybě

Pojďme si procvičit!

Bayesovská regresní analýza s balíčkem rstanarm