什么是探索性数据分析?

Power BI 中的探索性数据分析

Jacob H. Marquez

Data Scientist at Microsoft

什么是探索性数据分析?

"一种分析数据集以总结其主要特征的方法,通常使用统计图形和其他数据可视化方式。"

1 https://en.wikipedia.org/wiki/Exploratory_data_analysis
Power BI 中的探索性数据分析

EDA 的六个步骤

  1. 了解数据结构

  2. 识别缺失数据

  3. 用描述性统计与分布描述数据

  4. 识别异常值

  5. 检查并量化变量间关系

  6. 提出假设

Power BI 中的探索性数据分析

EDA 的六个步骤

  1. 了解数据结构

  2. 识别缺失数据

  3. 用描述性统计与分布描述数据

  4. 识别异常值

  5. 检查并量化变量间关系

  6. 提出假设

Power BI 中的探索性数据分析

1. 了解数据结构

连续型

数值变量,通常可取无限多的值

  • 太空中的恒星数量
  • 点击率
  • 两座城市间的距离

分类型

非数值变量,通常为文本,有两个或更多分组

  • 房屋类型
  • 国家
  • 公司
Power BI 中的探索性数据分析

2. 识别缺失数据

 

随机缺失(MAR)

一个九行四列的矩阵,按城市分成三组:西雅图、纽约和巴黎。30 个表示降雨英寸数的单元格中,有 6 个在三组中随机为空白。

 

非随机缺失(MNAR)

一个九行四列的矩阵,按城市分成三组:西雅图、纽约和巴黎。30 个表示降雨英寸数的单元格中,只有西雅图组有 4 个随机为空白。

Power BI 中的探索性数据分析

2. 处理缺失数据

 

一个九行四列的矩阵,按城市分成三组:西雅图、纽约和巴黎。30 个表示降雨英寸数的单元格中,只有西雅图组有 4 个随机为空白。

同样的九行四列矩阵,但移除了顶行,表示删除空白单元格。

同样的矩阵,但顶行已填入数值,表示用中位数填补空白单元格。

Power BI 中的探索性数据分析

3. 描述数据

  • 最小值
  • 最大值
  • 平均值:所有值之和除以观测数
  • 中位数:位于数值范围中间的值
  • 标准差:各数据点相对均值的平均偏离量
Power BI 中的探索性数据分析

3. 用分布描述数据

身高直方图,x 轴为身高,y 轴为对应观测数。

  • 中位数与平均值相同
  • 对称曲线
Power BI 中的探索性数据分析

3. 用分布描述数据

家庭收入直方图,x 轴为收入,y 轴为对应观测数。直方图左侧高、向右逐渐变窄。

  • 中位数 < 平均值
  • "右偏":尾部在右侧

上网时长直方图,x 轴为时间,y 轴为对应观测数。直方图左侧窄、向右逐渐变宽。

  • 中位数 > 平均值
  • "左偏":尾部在左侧
Power BI 中的探索性数据分析

数据集:Airbnb 房源

Airbnb 数据集图片,含五列:listing_id、host_id、host_since(日期列)、city 和 price。

Power BI 中的探索性数据分析

让我们来练习!

Power BI 中的探索性数据分析

Preparing Video For Download...