AIC และ BIC

ARIMA Models ใน Python

James Fulton

Climate informatics researcher

AIC - Akaike information criterion

AIC ที่ต่ำกว่าบ่งชี้ว่าโมเดลดีกว่า
AIC มักเลือกโมเดลที่เรียบง่ายและมี order ต่ำ

BIC - Bayesian information criterion

คล้าย AIC มาก
BIC ที่ต่ำกว่าบ่งชี้ว่าโมเดลดีกว่า
BIC มักเลือกโมเดลที่เรียบง่ายและมี order ต่ำ

AIC vs BIC

BIC เลือกโมเดลที่เรียบง่ายกว่า AIC
AIC เหมาะกว่าสำหรับการเลือกโมเดลเชิงพยากรณ์
BIC เหมาะกว่าสำหรับการเลือกโมเดลเชิงอธิบาย

AIC และ BIC ใน statsmodels

# Create model
model = ARIMA(df, order=(1,0,1))

# Fit model
results = model.fit()

# Print fit summary
print(results.summary())

                            Statespace Model Results                           
==============================================================================
Dep. Variable:                      y   No. Observations:                 1000
Model:               SARIMAX(2, 0, 0)   Log Likelihood               -1399.704
Date:                Fri, 10 May 2019   AIC                           2805.407
Time:                        01:06:11   BIC                           2820.131
Sample:                    01-01-2013   HQIC                          2811.003
                         - 09-27-2015                                         
Covariance Type:                  opg

AIC และ BIC ใน statsmodels

# Create model
model = ARIMA(df, order=(1,0,1))

# Fit model
results = model.fit()

# Print AIC and BIC
print('AIC:', results.aic)
print('BIC:', results.bic)

AIC: 2806.36 
BIC: 2821.09

ค้นหาด้วย AIC และ BIC

# Loop over AR order
for p in range(3):
    # Loop over MA order
    for q in range(3):

        # Fit model
        model = ARIMA(df, order=(p,0,q))
        results = model.fit()

        # print the model order and the AIC/BIC values
        print(p, q, results.aic, results.bic)

0 0 2900.13 2905.04
0 1 2828.70 2838.52
0 2 2806.69 2821.42
1 0 2810.25 2820.06
1 1 2806.37 2821.09
1 2 2807.52 2827.15
...

ค้นหาด้วย AIC และ BIC

order_aic_bic =[]
# Loop over AR order
for p in range(3):
    # Loop over MA order
    for q in range(3):

        # Fit model
        model = ARIMA(df, order=(p,0,q))
        results = model.fit()

        # Add order and scores to list
        order_aic_bic.append((p, q, results.aic, results.bic))

# Make DataFrame of model order and AIC/BIC scores
order_df = pd.DataFrame(order_aic_bic, columns=['p','q', 'aic', 'bic'])

ค้นหาด้วย AIC และ BIC

# Sort by AIC
print(order_df.sort_values('aic'))

   p  q      aic      bic
7  2  1  2804.54  2824.17
6  2  0  2805.41  2820.13
4  1  1  2806.37  2821.09
2  0  2  2806.69  2821.42
...

# Sort by BIC
print(order_df.sort_values('bic'))

   p  q      aic      bic
3  1  0  2810.25  2820.06
6  2  0  2805.41  2820.13
4  1  1  2806.37  2821.09
2  0  2  2806.69  2821.42
...

order ของโมเดลที่ไม่ stationary

# Fit model
model = ARIMA(df, order=(2,0,1))
results = model.fit()

ValueError: Non-stationary starting autoregressive parameters
found with `enforce_stationarity` set to True.

เมื่อ order บางค่าใช้งานไม่ได้

# Loop over AR order
for p in range(3):
    # Loop over MA order
    for q in range(3):


        # Fit model
        model = ARIMA(df, order=(p,0,q))
        results = model.fit()

        # Print the model order and the AIC/BIC values
        print(p, q, results.aic, results.bic)

เมื่อ order บางค่าใช้งานไม่ได้

# Loop over AR order
for p in range(3):
    # Loop over MA order
    for q in range(3):

        try:
            # Fit model
            model = ARIMA(df, order=(p,0,q))
            results = model.fit()

            # Print the model order and the AIC/BIC values
            print(p, q, results.aic, results.bic)

        except:
            # Print AIC and BIC as None when fails
            print(p, q, None, None)

มาฝึกกันเถอะ!

ARIMA Models ใน Python