Критерий Манна–Уитни

A/B-тестирование в R

Lauryn Burleigh

Data Scientist

Критерий Манна–Уитни

Время поедания пиццы с сыром и пепперони
Распределение не нормальное
Непараметрический метод
- Форма распределения не задаётся
- Критерий Манна–Уитни

Две гистограммы с левосторонней асимметрией. Пепперони — розовым, среднее 8; сыр — синим, среднее 6,2.

Допущения

Одинаковая форма распределений
Оценивает различие медиан
Нормальное распределение: среднее = медиана
Ненормальное распределение: медиана предпочтительнее
Дополнительные допущения: более мощный критерий

Нулевая гипотеза: нет различий в медианном времени поедания пиццы с сыром и пепперони

library(ggplot2)
ggplot(pizza, aes(x = Time, 
                  fill = Topping)) +
       geom_histogram() + 
       facet_grid(Topping~.)

Две гистограммы с левосторонней асимметрией. Пепперони — розовым, среднее 8; сыр — синим, среднее 6,2.

Размер выборки

library(pwr)
pwr.2p2n.test(h = 0.40, 
              sig.level = 0.05, 
              power = 0.8, n1 = 100)

    difference of proportion power 
 calculation for binomial distribution
              h = 0.4
             n1 = 100
             n2 = 96.29156
      sig.level = 0.05
          power = 0.8
    alternative = two.sided
NOTE: different sample sizes

pwr.2p2n.test(h = 0.40, 
              sig.level = 0.05, 
              power = 0.8, n1 = 110)

    difference of proportion power 
 calculation for binomial distribution
              h = 0.4
             n1 = 110
             n2 = 88.54092
      sig.level = 0.05
          power = 0.8
    alternative = two.sided
NOTE: different sample sizes

Ожидаемый размер эффекта h: ранговая бисериальная корреляция r
- Оцениваются ранги наблюдений внутри групп

Тест

wilcox.test(Time ~ Topping, 
            data = Pizza)

y ~ x
- y: данные
- x: группа

    Wilcoxon rank sum test with 
    continuity correction
data:  Enjoyment by Topping
W = 6051, p-value = 0.01026
alternative hypothesis: true location 
shift is not equal to 0

Размер эффекта и мощность

Размер эффекта

library(effectsize)
rank_biserial(Time ~ Topping, 
              data = pizza)

r (rank biserial) |         95% CI
<----------------------------------
0.21              | [0.05, 0.36]

Малый: 0,1
Средний: 0,3
Большой: 0,5

1 - 0,14 = 0,86 — вероятность ошибки II рода

Анализ мощности

library(pwr)
pwr.2p2n.test(h = 0.21, sig.level = 0.01, 
              n1 = 100, n2 = 100)

     difference of proportion power calculation for binomial distribution 

              h = 0.21
             n1 = 100
             n2 = 100
      sig.level = 0.01
          power = 0.1376818
    alternative = two.sided

NOTE: different sample sizes

Давайте потренируемся!

A/B-тестирование в R