Повышение частоты и интерполяция с .resample()

Работа с временными рядами в Python

Stefan Jansen

Founder & Lead Data Scientist at Applied Artificial Intelligence

Методы преобразования и изменения частоты

.resample(): аналог .groupby()
Группирует данные по периоду и применяет один или несколько методов к каждой группе
Новая дата определяется смещением — начало, конец и т. д.
Повышение частоты: заполнение из существующих значений или интерполяция
Понижение частоты: агрегирование существующих данных

Начало работы: ежемесячный уровень безработицы

unrate = pd.read_csv('unrate.csv', parse_dates['Date'], index_col='Date')

unrate.info()

DatetimeIndex: 208 entries, 2000-01-01 to 2017-04-01
Data columns (total 1 columns):
UNRATE    208 non-null float64 # no frequency information
dtypes: float64(1)

unrate.head()

            UNRATE
DATE
2000-01-01     4.0
2000-02-01     4.1
2000-03-01     4.0
2000-04-01     3.8
2000-05-01     4.0

Дата отчёта: 1-й день месяца

Период ресемплирования и частотные смещения

Resample создаёт новую дату для частотного смещения
Существует несколько альтернатив концу календарного месяца

Частота	Псевдоним	Пример даты
Конец календарного месяца	M	2017-04-30
Начало календарного месяца	MS	2017-04-01
Конец рабочего месяца	BM	2017-04-28
Начало рабочего месяца	BMS	2017-04-03

Логика ресемплирования

ch2_3_v2 - Upsampling & Interpolation.015.png

Логика ресемплирования

ch2_3_v2 - Upsampling & Interpolation.016.png

Назначение частоты с помощью .resample()

unrate.asfreq('MS').info()

DatetimeIndex: 208 entries, 2000-01-01 to 2017-04-01
Freq: MS
Data columns (total 1 columns):
UNRATE    208 non-null float64
dtypes: float64(1)

unrate.resample('MS') # creates Resampler object

DatetimeIndexResampler [freq=<MonthBegin>, axis=0, closed=left, 
                        label=left, convention=start, base=0]

Назначение частоты с помощью .resample()

unrate.asfreq('MS').equals(unrate.resample('MS').asfreq())

True

.resample(): возвращает данные только при вызове другого метода

Квартальный реальный рост ВВП

gdp = pd.read_csv('gdp.csv')

gdp.info()

DatetimeIndex: 69 entries, 2000-01-01 to 2017-01-01
Data columns (total 1 columns):
gpd    69 non-null float64 # no frequency info
dtypes: float64(1)

gdp.head(2)

            gpd
DATE
2000-01-01  1.2
2000-04-01  7.8

Интерполяция ежемесячного реального роста ВВП

gdp_1 = gdp.resample('MS').ffill().add_suffix('_ffill')

       gpd_ffill
DATE
2000-01-01  1.2
2000-02-01  1.2
2000-03-01  1.2
2000-04-01  7.8

Интерполяция ежемесячного реального роста ВВП

gdp_2 = gdp.resample('MS').interpolate().add_suffix('_inter')

            gpd_inter
DATE
2000-01-01  1.200000
2000-02-01  3.400000
2000-03-01  5.600000
2000-04-01  7.800000

.interpolate(): находит точки на прямой между существующими значениями

Конкатенация двух DataFrame

df1 = pd.DataFrame([1, 2, 3], columns=['df1'])

df2 = pd.DataFrame([4, 5, 6], columns=['df2'])

pd.concat([df1, df2])

   df1  df2
0  1.0  NaN
1  2.0  NaN
2  3.0  NaN
0  NaN  4.0
1  NaN  5.0
2  NaN  6.0

Конкатенация двух DataFrame

pd.concat([df1, df2], axis=1)

   df1  df2
0    1    4
1    2    5
2    3    6

axis=1: горизонтальная конкатенация

График интерполированного реального роста ВВП

pd.concat([gdp_1, gdp_2], axis=1).loc['2015':].plot()

ch2_3_v2 - Upsampling & Interpolation.032.png

Совмещение роста ВВП и безработицы

pd.concat([unrate, gdp_inter], axis=1).plot();

ch2_3_v2 - Upsampling & Interpolation.034.png

Давайте потренируемся!

Работа с временными рядами в Python