Простая линейная регрессия

Анализ временных рядов на Python

Rob Reider

Adjunct Professor, NYU-Courant Consultant, Quantopian

Что такое регрессия?

Простая линейная регрессия:

$\ \ \ \ y_t = \alpha + \beta x_t + \epsilon_t$

Что такое регрессия?

Метод наименьших квадратов (OLS)

Пакеты Python для построения регрессии

В statsmodels:

import statsmodels.api as sm
sm.OLS(y, x).fit()

В numpy:
```
np.polyfit(x, y, deg=1)
```
В pandas:
```
pd.ols(y, x)
```

В scipy:

from scipy import stats
stats.linregress(x, y)

Внимание: порядок аргументов x и y различается в разных пакетах

Пример: регрессия доходности акций малой капитализации на акции большой

Импортируйте модуль statsmodels
```
import statsmodels.api as sm
```
Как и прежде, вычислите процентные изменения для обоих рядов
```
df['SPX_Ret'] = df['SPX_Prices'].pct_change()
df['R2000_Ret'] = df['R2000_Prices'].pct_change()
```
Добавьте константу в DataFrame для свободного члена регрессии
```
df = sm.add_constant(df)
```

Пример регрессии (продолжение)

Обратите внимание: первая строка доходностей содержит NaN

            SPX_Price  R2000_Price   SPX_Ret  R2000_Ret
Date                                                     
2012-11-01  1427.589966   827.849976       NaN        NaN
2012-11-02  1414.199951   814.369995 -0.009379  -0.016283

Удалите строку с NaN
```
  df = df.dropna()
```

Запустите регрессию

  results = sm.OLS(df['R2000_Ret'],df[['const','SPX_Ret']]).fit()
  print(results.summary())

Пример регрессии (продолжение)

Результаты регрессии

Свободный член — в results.params[0]
Наклон — в results.params[1]

Пример регрессии (продолжение)

Результаты регрессии

Связь между R-квадратом и корреляцией

$ [\text{corr} (x,y)]^2 = R^2$ (или R-квадрат)
$ \text{sign(corr)} = \text{sign(regression slope)}$
В последнем примере:
- R-квадрат = 0,753
- Наклон положительный
- корреляция = $ + \sqrt{0.753} = 0.868$

Давайте потренируемся!

Анализ временных рядов на Python