Upsampling & interpolatie met .resample()

Tijdreeksgegevens manipuleren in Python

Stefan Jansen

Founder & Lead Data Scientist at Applied Artificial Intelligence

Frequentieconversie & transformatie-methoden

  • .resample(): lijkt op .groupby()

  • Groepeert data binnen de resample-periode en past per groep één of meer methoden toe

  • Nieuwe datum bepaald door offset: start, einde, enz.

  • Upsampling: vullen vanuit bestaande of waarden interpoleren

  • Downsampling: aggregaties toepassen op bestaande data

Tijdreeksgegevens manipuleren in Python

Start: maandelijkse werkloosheidsgraad

unrate = pd.read_csv('unrate.csv', parse_dates['Date'], index_col='Date')

unrate.info()
DatetimeIndex: 208 entries, 2000-01-01 to 2017-04-01
Data columns (total 1 columns):
UNRATE    208 non-null float64 # geen frequentie-informatie
dtypes: float64(1)
unrate.head()
            UNRATE
DATE
2000-01-01     4.0
2000-02-01     4.1
2000-03-01     4.0
2000-04-01     3.8
2000-05-01     4.0
  • Rapportagedatum: 1e dag van de maand
Tijdreeksgegevens manipuleren in Python

Resample-periode & frequentie-offsets

  • Resample maakt een nieuwe datum voor de frequentie-offset
  • Meerdere alternatieven voor einde kalendermaand

 

Frequentie Alias Voorbeeld-datum
Einde kalendermaand M 2017-04-30
Begin kalendermaand MS 2017-04-01
Einde werkmaand BM 2017-04-28
Begin werkmaand BMS 2017-04-03
Tijdreeksgegevens manipuleren in Python

Resampling-logica

Resampling-logica

Tijdreeksgegevens manipuleren in Python

Resampling-logica

Resampling-logica

Tijdreeksgegevens manipuleren in Python

Frequentie toewijzen met .resample()

unrate.asfreq('MS').info()
DatetimeIndex: 208 entries, 2000-01-01 to 2017-04-01
Freq: MS
Data columns (total 1 columns):
UNRATE    208 non-null float64
dtypes: float64(1)
unrate.resample('MS') # maakt Resampler-object
DatetimeIndexResampler [freq=<MonthBegin>, axis=0, closed=left, 
                        label=left, convention=start, base=0]
Tijdreeksgegevens manipuleren in Python

Frequentie toewijzen met .resample()

unrate.asfreq('MS').equals(unrate.resample('MS').asfreq())
True
  • .resample(): geeft pas data terug na aanroepen van een andere methode
Tijdreeksgegevens manipuleren in Python

Kwartaalgroei reële bbp

gdp = pd.read_csv('gdp.csv')

gdp.info()
DatetimeIndex: 69 entries, 2000-01-01 to 2017-01-01
Data columns (total 1 columns):
gpd    69 non-null float64 # geen frequentie-informatie
dtypes: float64(1)
gdp.head(2)
            gpd
DATE
2000-01-01  1.2
2000-04-01  7.8
Tijdreeksgegevens manipuleren in Python

Maandelijkse bbp-groei interpoleren

gdp_1 = gdp.resample('MS').ffill().add_suffix('_ffill')
       gpd_ffill
DATE
2000-01-01  1.2
2000-02-01  1.2
2000-03-01  1.2
2000-04-01  7.8
Tijdreeksgegevens manipuleren in Python

Maandelijkse bbp-groei interpoleren

gdp_2 = gdp.resample('MS').interpolate().add_suffix('_inter')
            gpd_inter
DATE
2000-01-01  1.200000
2000-02-01  3.400000
2000-03-01  5.600000
2000-04-01  7.800000
  • .interpolate(): vindt punten op de rechte lijn tussen bestaande data
Tijdreeksgegevens manipuleren in Python

Twee DataFrames samenvoegen (concat)

df1 = pd.DataFrame([1, 2, 3], columns=['df1'])

df2 = pd.DataFrame([4, 5, 6], columns=['df2'])
pd.concat([df1, df2])
   df1  df2
0  1.0  NaN
1  2.0  NaN
2  3.0  NaN
0  NaN  4.0
1  NaN  5.0
2  NaN  6.0
Tijdreeksgegevens manipuleren in Python

Twee DataFrames samenvoegen (concat)

pd.concat([df1, df2], axis=1)
   df1  df2
0    1    4
1    2    5
2    3    6
  • axis=1: horizontaal samenvoegen
Tijdreeksgegevens manipuleren in Python

Geïnterpoleerde bbp-groei plotten

pd.concat([gdp_1, gdp_2], axis=1).loc['2015':].plot()

ch2_3_v2 - Upsampling & Interpolation.032.png

Tijdreeksgegevens manipuleren in Python

bbp-groei en werkloosheid combineren

pd.concat([unrate, gdp_inter], axis=1).plot();

ch2_3_v2 - Upsampling & Interpolation.034.png

Tijdreeksgegevens manipuleren in Python

Laten we oefenen!

Tijdreeksgegevens manipuleren in Python

Preparing Video For Download...