Suita de pachete Bigmemory

Procesarea scalabilă a datelor în R

Michael Kane

Assistant Professor, Yale University

Până acum ..

  • Import
  • Subsetting
  • Atribuirea valorilor obiectelor big.matrix
Procesarea scalabilă a datelor în R

Pachete asociate

Tabele și rezumate
  • biganalytics
  • bigtabulate
Procesarea scalabilă a datelor în R

Pachete asociate

Algebră liniară
  • bigalgebra
Procesarea scalabilă a datelor în R

Pachete asociate

Ajustarea modelelor
  • bigpca
  • bigFastLM
  • biglasso
  • bigrf
Procesarea scalabilă a datelor în R

Setul de date ipotecare FHFA

  • Ipoteci deținute sau securitizate de Federal National Mortgage Association (Fannie Mae) și Federal Home Loan Mortgage Corporation (Freddie Mac) între 2009–2015
  • Datele ipotecare FHFA sunt disponibile online aici
  • Ne vom concentra pe un subset aleatoriu de 70.000 de împrumuturi
Procesarea scalabilă a datelor în R

Exemplul 1: utilizarea bigtabulate cu bigmemory

library(bigtabulate)

# How many samples do we have per year?
bigtable(mort, "year")

 2008  2009  2010  2011  2012  2013  2014  2015 
 8468 11101  8836  7996 10935 10216  5714  6734

# Create nested tables
bigtable(mort, c("msa", "year"))

  2008 2009 2010 2011 2012 2013 2014 2015
0 1064 1343  998  851 1066 1005  504  564
1 7404 9758 7838 7145 9869 9211 5210 6170
Procesarea scalabilă a datelor în R

Să exersăm!

Procesarea scalabilă a datelor în R

Preparing Video For Download...