Прогнозирование данных во времени

Машинное обучение для данных временных рядов на Python

Chris Holdgraf

Fellow, Berkeley Institute for Data Science

Классификация и регрессия

Классификация
classification_model.predict(X_test)

array([0, 1, 1, 0])
Регрессия
regression_model.predict(X_test)

array([0.2, 1.4, 3.6, 0.6])
Машинное обучение для данных временных рядов на Python

Корреляция и регрессия

  • Регрессия схожа с корреляцией, но имеет ключевые отличия
    • Регрессия: процесс, результатом которого является формальная модель данных
    • Корреляция: статистика, описывающая данные. Содержит меньше информации, чем регрессионная модель.
Машинное обучение для данных временных рядов на Python

Корреляция между переменными часто меняется со временем

  • Временные ряды часто имеют закономерности, меняющиеся со временем
  • Два ряда, кажущихся коррелированными в один момент, могут перестать быть таковыми
Машинное обучение для данных временных рядов на Python

Визуализация связей между временными рядами

fig, axs = plt.subplots(1, 2)

# Make a line plot for each timeseries
axs[0].plot(x, c='k', lw=3, alpha=.2)
axs[0].plot(y)
axs[0].set(xlabel='time', title='X values = time')

# Encode time as color in a scatterplot
axs[1].scatter(x_long, y_long, c=np.arange(len(x_long)), cmap='viridis')
axs[1].set(xlabel='x', ylabel='y', title='Color = time')
Машинное обучение для данных временных рядов на Python

Визуализация двух временных рядов

Машинное обучение для данных временных рядов на Python

Регрессионные модели в scikit-learn

from sklearn.linear_model import LinearRegression
model = LinearRegression()
model.fit(X, y)
model.predict(X)
Машинное обучение для данных временных рядов на Python

Визуализация прогнозов в scikit-learn

alphas = [.1, 1e2, 1e3]
ax.plot(y_test, color='k', alpha=.3, lw=3)
for ii, alpha in enumerate(alphas):
    y_predicted = Ridge(alpha=alpha).fit(X_train, y_train).predict(X_test)
    ax.plot(y_predicted, c=cmap(ii / len(alphas)))
ax.legend(['True values', 'Model 1', 'Model 2', 'Model 3'])
ax.set(xlabel="Time")
Машинное обучение для данных временных рядов на Python

Визуализация прогнозов в scikit-learn

Машинное обучение для данных временных рядов на Python

Оценка регрессионных моделей

  • Два наиболее распространённых метода:
    • Корреляция ($r$)
    • Коэффициент детерминации ($R^2$)
Машинное обучение для данных временных рядов на Python

Коэффициент детерминации ($R^2$)

  • Значение $R^2$ ограничено сверху числом 1, снизу – не ограничено
  • Чем ближе значение к 1, тем точнее модель предсказывает результаты

$$ 1 - \frac{error(model)}{variance(testdata)} $$

Машинное обучение для данных временных рядов на Python

$R^2$ в scikit-learn

from sklearn.metrics import r2_score
print(r2_score(y_predicted, y_test))

0.08
Машинное обучение для данных временных рядов на Python

Давайте потренируемся!

Машинное обучение для данных временных рядов на Python

Preparing Video For Download...