Інтерпретація результатів і порівняння моделей

Баєсівський аналіз даних у Python

Michal Oleszak

Machine Learning Engineer

Запуск моделі: повторно

formula = "num_clicks ~ clothes_banners_shown + sneakers_banners_shown"

with pm.Model() as model_1:
    pm.GLM.from_formula(formula, data=ads_aggregated)
    trace_1 = pm.sample(draws=1000, tune=500)

Запуск моделі: повторно

formula = "num_clicks ~ clothes_banners_shown + sneakers_banners_shown"

with pm.Model() as model_1:
    pm.GLM.from_formula(formula, data=ads_aggregated)
    trace_1 = pm.sample(draws=1000, tune=500, chains=4)

Кількість параметрів: 4
Кількість вибірок на параметр: 1000 $\times$ 4 = 4000

Трейс-плот

pm.traceplot(trace_1)

Сітка з восьми графіків у двох стовпцях і чотирьох рядках. Ліворуч — чотири графіки густини, праворуч — чотири лінійні графіки, по одному на кожен параметр моделі.

Трейс-плот: масштабування одного параметра

Два графіки поряд: ліворуч — графік густини, праворуч — лінійний графік вибірок параметра.

Форест-плот

pm.forestplot(trace_1)

Графік, що показує розподіл вибірок для кожного параметра моделі у вигляді горизонтальних відрізків.

Підсумок трейсу

pm.summary(trace_1)

                         mean     sd  hdi_3%  hdi_97%  mcse_mean  mcse_sd  \
Intercept               1.307  0.886  -0.305    2.962      0.018    0.013   
clothes_banners_shown   0.103  0.031   0.043    0.160      0.001    0.000   
sneakers_banners_shown  0.104  0.032   0.045    0.163      0.001    0.001   
sd                      2.654  0.157   2.382    2.970      0.003    0.002   

                        ess_mean  ess_sd  ess_bulk  ess_tail  r_hat  
Intercept                 2346.0  2318.0    2351.0    2083.0    1.0  
clothes_banners_shown     2085.0  2085.0    2089.0    1868.0    1.0  
sneakers_banners_shown    2105.0  1953.0    2122.0    1869.0    1.0  
sd                        2615.0  2590.0    2646.0    1834.0    1.0

Підбір іншої моделі

formula = "num_clicks ~ clothes_banners_shown + sneakers_banners_shown + weekend"

with pm.Model() as model_2:
    pm.GLM.from_formula(formula, data=ads_aggregated)
    trace_2 = pm.sample(draws=1000, tune=500)

Критерій WAIC (Widely Applicable Information Criterion)

comparison = pm.compare({"trace_1": trace_1, "trace_2": trace_2}, 
                        ic="waic", scale="deviance")
print(comparison)

        rank     waic   p_waic    d_waic    weight       se      dse warning  \
trace_2    0   -362.8   5.1576         0  0.513792  9.37269        0    True   
trace_1    1 -362.926  4.13318  0.126236  0.486208  9.48352  1.50682    True   

        waic_scale  
trace_2        log  
trace_1        log

Графік порівняння

pm.compareplot(comparison)

Графік, що візуалізує значення WAIC для двох моделей.

Давайте потренуємось порівнювати моделі!

Баєсівський аналіз даних у Python