Cách fit GLM trong Python?

Mô hình Tuyến tính Tổng quát (GLM) trong Python

Ita Cirovic Donev

Data Science Consultant

statsmodels

  • Import statsmodels

    import statsmodels.api as sm
    
  • Hỗ trợ công thức

    import statsmodels.formula.api as smf
    
  • Dùng glm() trực tiếp

    from statsmodels.formula.api import glm
    
Mô hình Tuyến tính Tổng quát (GLM) trong Python

Quy trình fit mô hình

  1. Mô tả mô hình $\rightarrow \texttt{\color{#007AFF}{glm()}}$
  2. Fit mô hình $\rightarrow \texttt{\color{#007AFF}{.fit()}}$
  3. Tóm tắt mô hình $\rightarrow \texttt{\color{#007AFF}{.summary()}}$
  4. Dự báo $\rightarrow \texttt{\color{#007AFF}{.predict()}}$
Mô hình Tuyến tính Tổng quát (GLM) trong Python

Mô tả mô hình

Dựa trên FORMULA

from statsmodels.formula.api import glm
model = glm(formula, data, family)

Dựa trên ARRAY

import statsmodels.api as sm
X = sm.add_constant(X)
model = sm.glm(y, X, family)
Mô hình Tuyến tính Tổng quát (GLM) trong Python

Tham số Formula

$$\texttt{\color{#00A388}{response}} \sim \texttt{\color{#FF6138}{explanatory variable(s)}}$$ $$\texttt{\color{#00A388}{output}} \sim \texttt{\color{#FF6138}{input(s)}}$$

formula = 'y ~ x1 + x2'
  • $\texttt{\color{#FF6138}{C(x1)}}$ : coi x1 là biến phân loại
  • $\texttt{\color{#FF6138}{-1}}$ : bỏ intercept
  • $\texttt{\color{#FF6138}{x1:x2}}$ : tương tác giữa x1x2
  • $\texttt{\color{#FF6138}{x1*x2}}$ : tương tác và các biến riêng lẻ
  • $\texttt{\color{#FF6138}{np.log(x1)}}$ : áp dụng hàm vector hóa lên biến mô hình
Mô hình Tuyến tính Tổng quát (GLM) trong Python

Tham số Family

family = sm.families.____()

Các hàm family:

  • $\texttt{\color{#007AFF}{Gaussian}(link = sm.families.links.\color{deeppink}{identity()})}$ $\rightarrow$ family mặc định
  • $\texttt{\color{#007AFF}{Binomial}(link = sm.families.links.\color{deeppink}{logit()})}$
    • $\texttt{\color{deeppink}{probit()}}$, $\texttt{\color{deeppink}{cauchy()}}$, $\texttt{\color{deeppink}{log()}}$, và $\texttt{\color{deeppink}{cloglog()}}$
  • $\texttt{\color{#007AFF}{Poisson}(link = sm.families.links.\color{deeppink}{log()})}$
    • $\texttt{\color{deeppink}{identity()}}$ và $\texttt{\color{deeppink}{sqrt()}}$

Các family khác xem tại trang statsmodels.

Mô hình Tuyến tính Tổng quát (GLM) trong Python

Tóm tắt mô hình

print(model_GLM.summary())
Mô hình Tuyến tính Tổng quát (GLM) trong Python
                 Generalized Linear Model Regression Results                  
=============================================================================
Dep. Variable:                      y  No. Observations:                  173
Model:                            GLM  Df Residuals:                      171
Model Family:                Binomial  Df Model:                            1
Link Function:                  logit  Scale:                          1.0000
Method:                          IRLS  Log-Likelihood:                -97.226
Date:                Mon, 21 Jan 2019  Deviance:                       194.45
Time:                        11:30:01  Pearson chi2:                     165.
No. Iterations:                     4  Covariance Type:             nonrobust
=============================================================================
                 coef    std err         z      P>|z|      [0.025      0.975]
-----------------------------------------------------------------------------
Intercept    -12.3508      2.629    -4.698      0.000     -17.503      -7.199
width          0.4972      0.102     4.887      0.000       0.298       0.697
=============================================================================
Mô hình Tuyến tính Tổng quát (GLM) trong Python

Hệ số hồi quy

$\texttt{\color{#007AFF}{.params}}$ in hệ số hồi quy

model_GLM.params
Intercept   -12.350818
width         0.497231
dtype: float64

$\texttt{\color{#007AFF}{.conf\_int(alpha=0.05, cols=None)}}$ in khoảng tin cậy

model_GLM.conf_int()
                   0         1
Intercept -17.503010 -7.198625
width       0.297833  0.696629
Mô hình Tuyến tính Tổng quát (GLM) trong Python

Dự báo

  • Xác định đủ biến mô hình trong dữ liệu kiểm tra
  • $\texttt{\color{#007AFF}{.predict(\color{#FF931B}{test\_data})}}$ tính dự báo
model_GLM.predict(test_data)
0    0.029309
1    0.470299
2    0.834983
3    0.972363
4    0.987941
Mô hình Tuyến tính Tổng quát (GLM) trong Python

Ayo berlatih!

Mô hình Tuyến tính Tổng quát (GLM) trong Python

Preparing Video For Download...