恭喜!

R 的可擴展資料處理

Michael J. Kane and Simon Urbanek

Instructors, DataCamp

Split-Apply-Combine

  • 分割資料為多個部分
  • 對各部分進行計算
  • 合併結果
R 的可擴展資料處理

Split-Apply-Combine:優點

  • 可管理的小部分不會壓垮電腦
  • 方法易於平行化
  • 可序列處理
  • 可在叢集的多台機器上處理
R 的可擴展資料處理

Split-Apply-Combine:R

  • split() 將列編號集合或 data.frame 分割成多份

  • Map() 對各部分計算

  • Reduce() 合併結果

R 的可擴展資料處理

bigmemory

bigmemory

  • 適合可表示為稠密矩陣、可能超出 RAM 的較大資料集
  • 看起來就像一般的 R 矩陣
R 的可擴展資料處理

iotools

iotools

  • 適合以序列分塊處理的更大資料
  • 支援 data.framematrix
R 的可擴展資料處理

R 的可擴展資料處理

祝你順利!

R 的可擴展資料處理

Preparing Video For Download...