Міри розкиду

Вступ до статистики в R

Maggie Matsui

Content Developer, DataCamp

Що таке розкид?

Дві гістограми: одна вузька з даними в межах кількох значень, інша ширша з даними в межах більшої кількості значень.

Вступ до статистики в R

Дисперсія

Середня відстань кожної точки до середнього значення Точкова діаграма з 7 точками та чорною лінією посередині, що позначає середнє.

Вступ до статистики в R

Обчислення дисперсії

Точкова діаграма з 7 точками та чорною лінією посередині, що позначає середнє. Між кожною точкою й середньою лінією намальовані стрілки.

dists <- msleep$sleep_total - mean(msleep$sleep_total)
dists

1.66626506  6.56626506 ... -4.13373494  2.06626506 -0.63373494
Вступ до статистики в R

Обчислення дисперсії

squared_dists <- (dists)^2

2.776439251 43.115836841 ... 17.087764552  4.269451299  0.401619974

sum_sq_dists <- sum(squared_dists)
sum_sq_dists

1624.066
Вступ до статистики в R

Обчислення дисперсії

sum_sq_dists/82

19.80568

var(msleep$sleep_total)

19.80568
Вступ до статистики в R

Стандартне відхилення

sqrt(var(msleep$sleep_total))

4.450357

# Standard deviation of 'sleep_total'
sd(msleep$sleep_total)

4.450357
Вступ до статистики в R

Середнє абсолютне відхилення

dists <- msleep$sleep_total - mean(msleep$sleep_total)
mean(abs(dists))

3.566701

 

Стандартне відхилення vs. середнє абсолютне відхилення

  • SD підносить відстані до квадрата, сильніше штрафуючи більші відхилення.
  • MAD однаково штрафує кожну відстань.
  • Жодне не «краще», але SD вживають частіше за MAD.
Вступ до статистики в R

Квартилі

quantile(msleep$sleep_total)

   0%   25%   50%   75%  100% 
 1.90  7.85 10.10 13.75 19.90

Другий квартиль/50-й перцентиль = медіана

Вступ до статистики в R

Боксплоти використовують квартилі

ggplot(msleep, aes(y = sleep_total)) +
  geom_boxplot()

Боксплот загального часу сну ссавців

Вступ до статистики в R

Квантілі

quantile(msleep$sleep_total, probs = c(0, 0.2, 0.4, 0.6, 0.8, 1))

   0%   20%   40%   60%   80%  100% 
 1.90  6.24  9.48 11.14 14.40 19.90

seq(from, to, by)

quantile(msleep$sleep_total, probs = seq(0, 1, 0.2))

   0%   20%   40%   60%   80%  100% 
 1.90  6.24  9.48 11.14 14.40 19.90
Вступ до статистики в R

Міжквартильний розмах (IQR)

Висота коробки на боксплоті

iqr = quantile(msleep$sleep_total, 0.75) - quantile(msleep$sleep_total, 0.25)
iqr

75%
5.9
Вступ до статистики в R

Викиди

Викид: точка даних, що суттєво відрізняється від інших

Як визначити, що різниця суттєва? Точка є викидом, якщо:

  • $\text{data} < \text{Q1} - 1.5\times\text{IQR}$    або
  • $\text{data} > \text{Q3} + 1.5\times\text{IQR}$
Вступ до статистики в R

Пошук викидів

iqr <- quantile(msleep$bodywt, 0.75) - quantile(msleep$bodywt, 0.25)

lower_threshold <- quantile(msleep$bodywt, 0.25) - 1.5 * iqr
upper_threshold<- quantile(msleep$bodywt, 0.75) + 1.5 * iqr

msleep %>% filter(bodywt < lower_threshold | bodywt > upper_threshold ) %>% 
  select(name, vore, sleep_total, bodywt)

# A tibble: 11 x 4
   name                 vore  sleep_total bodywt
   <chr>                <chr>       <dbl>  <dbl> 
 1 Cow                  herbi         4      600 
 2 Asian elephant       herbi         3.9   2547 
 3 Horse                herbi         2.9    521 
 ...
Вступ до статистики в R

Давайте потренуємось!

Вступ до статистики в R

Preparing Video For Download...