离散程度的度量

R 统计学入门

Maggie Matsui

Content Developer, DataCamp

什么是离散程度？

两个直方图：一个窄，仅跨少量取值；一个更宽，跨更多取值。

方差

每个数据点到均值的平均距离 7个数据点的点图，中间黑线表示均值。

计算方差

7个数据点的点图，中间黑线表示均值。用箭头标出每个点与中线之间的距离。

dists <- msleep$sleep_total - mean(msleep$sleep_total)
dists

1.66626506  6.56626506 ... -4.13373494  2.06626506 -0.63373494

计算方差

squared_dists <- (dists)^2

2.776439251 43.115836841 ... 17.087764552  4.269451299  0.401619974

sum_sq_dists <- sum(squared_dists)
sum_sq_dists

1624.066

计算方差

sum_sq_dists/82

19.80568

var(msleep$sleep_total)

19.80568

标准差

sqrt(var(msleep$sleep_total))

4.450357

# "sleep_total"的标准差
sd(msleep$sleep_total)

4.450357

平均绝对偏差

dists <- msleep$sleep_total - mean(msleep$sleep_total)
mean(abs(dists))

3.566701

标准差 vs. 平均绝对偏差

标准差对距离平方，更重罚大的偏离。
MAD 对每个偏离一视同仁。
二者无优劣之分，但标准差更常用。

四分位数

quantile(msleep$sleep_total)

   0%   25%   50%   75%  100% 
 1.90  7.85 10.10 13.75 19.90

第二四分位/第50百分位 = 中位数

箱线图使用四分位数

ggplot(msleep, aes(y = sleep_total)) +
  geom_boxplot()

哺乳动物"总睡眠时间"的箱线图

分位数

quantile(msleep$sleep_total, probs = c(0, 0.2, 0.4, 0.6, 0.8, 1))

   0%   20%   40%   60%   80%  100% 
 1.90  6.24  9.48 11.14 14.40 19.90

seq(from, to, by)

quantile(msleep$sleep_total, probs = seq(0, 1, 0.2))

   0%   20%   40%   60%   80%  100% 
 1.90  6.24  9.48 11.14 14.40 19.90

四分位距（IQR）

箱线图中箱体的高度

iqr = quantile(msleep$sleep_total, 0.75) - quantile(msleep$sleep_total, 0.25)
iqr

75%
5.9

离群值

离群值： 与其他数据明显不同的数据点

如何判定"明显不同"？若满足以下任一条件，即为离群值：

$\text{data} < \text{Q1} - 1.5\times\text{IQR}$ 或
$\text{data} > \text{Q3} + 1.5\times\text{IQR}$

查找离群值

iqr <- quantile(msleep$bodywt, 0.75) - quantile(msleep$bodywt, 0.25)

lower_threshold <- quantile(msleep$bodywt, 0.25) - 1.5 * iqr
upper_threshold<- quantile(msleep$bodywt, 0.75) + 1.5 * iqr

msleep %>% filter(bodywt < lower_threshold | bodywt > upper_threshold ) %>% 
  select(name, vore, sleep_total, bodywt)

# A tibble: 11 x 4
   name                 vore  sleep_total bodywt
   <chr>                <chr>       <dbl>  <dbl> 
 1 Cow                  herbi         4      600 
 2 Asian elephant       herbi         3.9   2547 
 3 Horse                herbi         2.9    521 
 ...

Vamos praticar!

R 统计学入门