Menafsirkan inferensi model

Generalized Linear Models di Python

Ita Cirovic Donev

Data Science Consultant

Estimasi koefisien beta

  • Maximum likelihood estimation (MLE)
  • Koefisien terestimasi, $\hat\beta$
    • log-likelihood bernilai maksimum

Fungsi likelihood

Generalized Linear Models di Python

Estimasi koefisien beta

  • Iteratively reweighted least squares (IRLS)

Ringkasan keluaran model terpasang

Generalized Linear Models di Python

Uji signifikansi

Ringkasan keluaran model terpasang dengan statistik estimasi koefisien yang disorot.

Generalized Linear Models di Python

Standard error (SE)

  • Puncak lebih landai
    $\rightarrow$ Lokasi maksimum lebih sulit ditentukan
    $\rightarrow$ SE lebih besar

Visualisasi likelihood saat standard error lebih besar.

  • Puncak lebih tajam
    $\rightarrow$ Lokasi maksimum lebih jelas
    $\rightarrow$ SE lebih kecil

Visualisasi likelihood saat standard error lebih kecil.

Generalized Linear Models di Python

Perhitungan standard error

# Extract variance-covariance matrix
print(model_GLM.cov_params())
           Intercept    weight
Intercept   0.774762 -0.325087
weight     -0.325087  0.141903
# Compute standard error for weight
std_error = np.sqrt(0.141903)
0.3767

Matriks varians-kovarians

Ilustrasi matriks varians-kovarians

Generalized Linear Models di Python

Uji signifikansi

  • Statistik z $$ \color{#2485F2}{z=\hat\beta/SE} $$

  • $\color{#2485F2}{z}$ besar $\Rightarrow$ koefisien $\ne0$ $\Rightarrow$ variabel signifikan

  • Aturan praktis: ambang 2

Contoh: model horseshoe crab
y ~ weight

$z = 1.8151/0.377 = 4.819$

Generalized Linear Models di Python

Interval kepercayaan untuk beta

  • Ketidakpastian estimasi
  • Interval kepercayaan 95% untuk $\beta$

$$ [\color{#5A5AF3}{bawah},\color{#D8498E}{atas}] $$

$$ [\color{#5A5AF3}{\hat\beta - 1.96 \times SE},\color{#D8498E}{\hat\beta+1.96 \times SE}] $$

Generalized Linear Models di Python

Menghitung interval kepercayaan

Contoh: model horseshoe crab

                 coef    std err   
<hr />-------------------------------
Intercept     -3.6947      0.880  
weight         1.8151      0.377  

Generalized Linear Models di Python

Ekstrak interval kepercayaan

print(model_GLM.conf_int())
                  0         1
Intercept -5.419897 -1.969555
weight     1.076826  2.553463
Generalized Linear Models di Python

Ekstrak interval kepercayaan

print(model_GLM.conf_int())
              lower         1
Intercept -5.419897 -1.969555
weight     1.076826  2.553463
Generalized Linear Models di Python

Ekstrak interval kepercayaan

print(model_GLM.conf_int())
                  0     upper
Intercept -5.419897 -1.969555
weight     1.076826  2.553463
Generalized Linear Models di Python

Interval kepercayaan untuk odds

  1. Ekstrak interval kepercayaan untuk $\beta$

  2. Eksponensialkan batas

print(np.exp(model_GLM.conf_int()))
                  0          1
Intercept  0.004428   0.139519
weight     2.935348  12.851533
Generalized Linear Models di Python

Ayo berlatih!

Generalized Linear Models di Python

Preparing Video For Download...