Tolka modellinferens

Generaliserade linjära modeller i Python

Ita Cirovic Donev

Data Science Consultant

Skattning av beta-koefficienten

  • Maximum likelihood-skattning (MLE)
  • Skattad koefficient, $\hat\beta$
    • log-likelihood antar sitt maximala värde

Likelihoodfunktionen

Generaliserade linjära modeller i Python

Skattning av beta-koefficienten

  • Iterativt omviktat minsta kvadrat (IRLS)

Sammanfattning av den anpassade modellen

Generaliserade linjära modeller i Python

Signifikanstestning

Sammanfattning av den anpassade modellen med markerad statistik för koefficientskattning.

Generaliserade linjära modeller i Python

Standardfel (SE)

  • Flackare topp
    $\rightarrow$ Maximumets läge svårare att fastställa
    $\rightarrow$ Större SE

Visualisering av likelihood när standardfelet är större.

  • Skarpare topp
    $\rightarrow$ Maximumets läge tydligare definierat
    $\rightarrow$ Mindre SE

Visualisering av likelihood när standardfelet är mindre.

Generaliserade linjära modeller i Python

Beräkning av standardfelet

# Extract variance-covariance matrix
print(model_GLM.cov_params())
           Intercept    weight
Intercept   0.774762 -0.325087
weight     -0.325087  0.141903
# Compute standard error for weight
std_error = np.sqrt(0.141903)
0.3767

Varians-kovariansmatris

Illustration av varians-kovariansmatrisen

Generaliserade linjära modeller i Python

Signifikanstestning

  • z-statistika $$ \color{#2485F2}{z=\hat\beta/SE} $$

  • $\color{#2485F2}{z}$ stor $\Rightarrow$ koefficient $\ne0$ $\Rightarrow$ variabel signifikant

  • Tumregel: gränsvärde på 2

Exempel: hästskokrabba-modell
y ~ weight

$z = 1.8151/0.377 = 4.819$

Generaliserade linjära modeller i Python

Konfidensintervall för beta

  • Osäkerhet i skattningarna
  • 95 % konfidensintervall för $\beta$

$$ [\color{#5A5AF3}{lower},\color{#D8498E}{upper}] $$

$$ [\color{#5A5AF3}{\hat\beta - 1.96 \times SE},\color{#D8498E}{\hat\beta+1.96 \times SE}] $$

Generaliserade linjära modeller i Python

Beräkna konfidensintervall

Exempel: hästskokrabba-modell

                 coef    std err   
<hr />-------------------------------
Intercept     -3.6947      0.880  
weight         1.8151      0.377  

Generaliserade linjära modeller i Python

Extrahera konfidensintervall

print(model_GLM.conf_int())
                  0         1
Intercept -5.419897 -1.969555
weight     1.076826  2.553463
Generaliserade linjära modeller i Python

Extrahera konfidensintervall

print(model_GLM.conf_int())
              lower         1
Intercept -5.419897 -1.969555
weight     1.076826  2.553463
Generaliserade linjära modeller i Python

Extrahera konfidensintervall

print(model_GLM.conf_int())
                  0     upper
Intercept -5.419897 -1.969555
weight     1.076826  2.553463
Generaliserade linjära modeller i Python

Konfidensintervall för oddskvoter

  1. Extrahera konfidensintervall för $\beta$

  2. Exponentiera ändpunkterna

print(np.exp(model_GLM.conf_int()))
                  0          1
Intercept  0.004428   0.139519
weight     2.935348  12.851533
Generaliserade linjära modeller i Python

Nu kör vi en övning!

Generaliserade linjära modeller i Python

Preparing Video For Download...