分布与离群值

Power BI 中的探索性数据分析

Jacob H. Marquez

Data Scientist at Microsoft

什么是分布?

【定义】:变量所有可能取值及其对应频数的集合。

Power BI 中的探索性数据分析

什么是分布?

连续型

年龄 频数
18 7
19 11
20 13
21 19
22 12
Power BI 中的探索性数据分析

什么是分布?

连续型

年龄 频数
18 7
19 11
20 13
21 19
22 12

分类型

发色 频数
金色 30
棕色 50
黑色 40
红色 20
灰色 20
Power BI 中的探索性数据分析

什么是直方图?

一个身高直方图,x 轴为身高,y 轴为对应人数。中间大块集中,两侧尾部较窄。

Power BI 中的探索性数据分析

什么是直方图?——箱数

100 个箱的直方图

一个身高直方图,x 轴为身高,y 轴为对应人数。使用 100 个箱,图形更平滑、细节更多。

20 个箱的直方图

一个身高直方图,x 轴为身高,y 轴为对应人数。使用较少的箱,图形更生硬、方块状。

Power BI 中的探索性数据分析

读直方图——中心与偏态

一个身高直方图,x 轴为身高,y 轴为对应人数。中间集中、两端较少。

正态分布

一个身高直方图,x 轴为身高,y 轴为对应人数。左侧集中,向右逐渐变窄。

右偏分布

Power BI 中的探索性数据分析

读直方图——离散度

更大的标准差

一个身高直方图,x 轴为身高,y 轴为对应人数。中间集中、两端较少。

更小的标准差

一个身高直方图,x 轴为身高,y 轴为对应人数。更窄、近似尖塔状,因标准差较小。

Power BI 中的探索性数据分析

读直方图——百分位数

一个身高直方图,x 轴为身高,y 轴为对应人数。中位数到左侧的区域以绿色高亮,表示第 50 百分位。

Power BI 中的探索性数据分析

读直方图——第 25 与第 75 百分位

一个身高直方图,x 轴为身高,y 轴为对应人数。左侧从第 25 百分位起、右侧到第 75 百分位的区域以绿色高亮。

Power BI 中的探索性数据分析

读直方图——四分位距

一个身高直方图,x 轴为身高,y 轴为对应人数。第 25 到第 75 百分位间的绿色区域表示四分位距。

Power BI 中的探索性数据分析

什么是离群值?

一个身高直方图,x 轴为身高,y 轴为对应人数。两端绿色区域标出可能的离群值。

Power BI 中的探索性数据分析

查找离群值

使用标准差

$lower = -3 * SD$

$upper = 3 * SD$

$$

离群条件

$value < lower$ 或 $value > upper$

四分位距(IQR)

$lower = 25percentile-(1.5 * IQR)$

$upper = 75percentile+(1.5 * IQR)$

$$

离群条件

$value < lower$ 或 $value > upper$

Power BI 中的探索性数据分析

处理离群值

  1. 删除观测
  2. 插补

温莎化(Winsorizing)

value < 第 5 百分位 value = 第 5 百分位

$$

value > 第 95 百分位 value = 第 95 百分位

Power BI 中的探索性数据分析

Passons à la pratique !

Power BI 中的探索性数据分析

Preparing Video For Download...