Interpretarea inferenței modelului

Modele Liniare Generalizate în Python

Ita Cirovic Donev

Data Science Consultant

Estimarea coeficientului beta

  • Estimarea prin maximum de verosimilitate (MLE)
  • Coeficient estimat, $\hat\beta$
    • log-verosimilitatea atinge valoarea maximă

Funcția de verosimilitate

Modele Liniare Generalizate în Python

Estimarea coeficientului beta

  • Cel mai mic pătrat ponderat iterativ (IRLS)

Rezultatul sumar al modelului ajustat

Modele Liniare Generalizate în Python

Testarea semnificației

Rezultatul sumar al modelului cu statistici evidențiate privind estimarea coeficienților.

Modele Liniare Generalizate în Python

Eroarea standard (ES)

  • Vârf mai plat
    $\rightarrow$ Maximul mai greu de localizat
    $\rightarrow$ ES mai mare

Vizualizarea funcției de verosimilitate când eroarea standard este mai mare.

  • Vârf mai ascuțit
    $\rightarrow$ Maximul mai clar definit
    $\rightarrow$ ES mai mic

Vizualizarea funcției de verosimilitate când eroarea standard este mai mică.

Modele Liniare Generalizate în Python

Calculul erorii standard

# Extract variance-covariance matrix
print(model_GLM.cov_params())
           Intercept    weight
Intercept   0.774762 -0.325087
weight     -0.325087  0.141903
# Compute standard error for weight
std_error = np.sqrt(0.141903)
0.3767

Matricea varianță-covarianță

Ilustrarea matricei varianță-covarianță

Modele Liniare Generalizate în Python

Testarea semnificației

  • Statistica z $$ \color{#2485F2}{z=\hat\beta/SE} $$

  • $\color{#2485F2}{z}$ mare $\Rightarrow$ coeficient $\ne0$ $\Rightarrow$ variabilă semnificativă

  • Regulă practică: valoare prag de 2

Exemplu: model crab potcoavă
y ~ weight

$z = 1.8151/0.377 = 4.819$

Modele Liniare Generalizate în Python

Intervale de încredere pentru beta

  • Incertitudinea estimărilor
  • Intervale de încredere 95% pentru $\beta$

$$ [\color{#5A5AF3}{inferior},\color{#D8498E}{superior}] $$

$$ [\color{#5A5AF3}{\hat\beta - 1.96 \times SE},\color{#D8498E}{\hat\beta+1.96 \times SE}] $$

Modele Liniare Generalizate în Python

Calculul intervalelor de încredere

Exemplu: model crab potcoavă

                 coef    std err   
<hr />-------------------------------
Intercept     -3.6947      0.880  
weight         1.8151      0.377  

Modele Liniare Generalizate în Python

Extragerea intervalelor de încredere

print(model_GLM.conf_int())
                  0         1
Intercept -5.419897 -1.969555
weight     1.076826  2.553463
Modele Liniare Generalizate în Python

Extragerea intervalelor de încredere

print(model_GLM.conf_int())
              lower         1
Intercept -5.419897 -1.969555
weight     1.076826  2.553463
Modele Liniare Generalizate în Python

Extragerea intervalelor de încredere

print(model_GLM.conf_int())
                  0     upper
Intercept -5.419897 -1.969555
weight     1.076826  2.553463
Modele Liniare Generalizate în Python

Intervale de încredere pentru șanse

  1. Extragerea intervalelor de încredere pentru $\beta$

  2. Exponențierea capetelor intervalului

print(np.exp(model_GLM.conf_int()))
                  0          1
Intercept  0.004428   0.139519
weight     2.935348  12.851533
Modele Liniare Generalizate în Python

Să exersăm!

Modele Liniare Generalizate în Python

Preparing Video For Download...