使用 PySpark 的 Big Data 基礎
Upendra Devisetty
Science Analyst, CyVerse
Chapter 1:Big Data 基礎與 Spark 分散式運算框架概覽
主要元件:Spark Core 與內建函式庫——Spark SQL、Spark MLlib、GraphX、Spark Streaming
PySpark:Apache Spark 的 Python API,用於執行 Spark 作業
PySpark shell:用於開發互動式 Python 應用
Spark 模式:本機模式與叢集模式
Chapter 2:RDD 簡介、RDD 特性、建立 RDD 的方法與 RDD 操作(Transformations 與 Actions)
Chapter 3:Spark SQL 與 DataFrame 抽象、建立 DataFrame、DataFrame 操作,並以 DataFrame 視覺化大數據
Chapter 4:Spark MLlib 簡介,以及機器學習的三個 C(Collaborative filtering、Classification、Clustering)
使用 PySpark 的 Big Data 基礎