Fisherův přesný test

A/B testování v R

Lauryn Burleigh

Data Scientist

Specifikace

  • Neparametrický test kategorických dat
    • Zda se zákazník vrátí pro Cheese nebo Pepperoni pizzu
  • Výběr < 1 000
  • Četnost < 5 alespoň u 20 %
  • Fisherův přesný test pro přesnou p-hodnotu
  • Kontingenční tabulka 2×2

Hypergeometrické rozdělení

  • Pravděpodobnost kontingenční tabulky
table(Pizza$Topping, Pizza$EatAgain)
              No Yes
  Cheese     140 360
  Pepperoni   80 420
A/B testování v R

Hypotézy

  • Nulová hypotéza: Žádný vztah mezi opakovanou návštěvou a druhem pizzy

Fotografie kousků pizzy, které si berou různé osoby.

A/B testování v R

Výběr

library(pwr)
pwr.chisq.test(w = 0.1, df = 2, 
               power = 0.80, 
               sig.level = 0.05)
     Chi squared power calculation 
              w = 0.1
              N = 963.4689
             df = 2
      sig.level = 0.05
          power = 0.8
NOTE: N is the number of observations
table(Pizza$Topping, Pizza$EatAgain)
              No Yes
  Cheese     140 360
  Pepperoni   80 420
A/B testování v R

Test

freqtbl <- table(Pizza$Topping, 
                 Pizza$Time)
fisher.test(freqtbl) 
    Fisher's Exact Test for Count Data
data:  freqtbl
p-value = 0.001809
alternative hypothesis: true odds ratio is not equal to 1
95 percent confidence interval:
 0.4569013 0.8417208
sample estimates:
odds ratio 
 0.6209987 
A/B testování v R

Velikost efektu

freqtbl <- table(Pizza$Topping, 
                 Pizza$Time)
fisher.test(freqtbl) 
  • Malá: 1,5
  • Střední: 2,5
  • Velká: 4
  • Pizza Pepperoni x 0,62 oproti pizze Cheese
Fisher's Exact Test for Count Data
data:  freqtbl
p-value = 0.001809
alternative hypothesis: true odds 
ratio is not equal to 1
95 percent confidence interval:
 0.4569013 0.8417208
sample estimates:
odds ratio 
 0.6209987  
A/B testování v R

Síla testu

library(pwr)
pwr.2p.test(h = 0.62, n = 500, 
            sig.level = 0.002) 
    Difference of proportion power 
 calculation for binomial distribution

              h = 0.62
              n = 500
      sig.level = 0.002
          power = 1
    alternative = two.sided

NOTE: same sample sizes
A/B testování v R

Pojďme si procvičit!

A/B testování v R

Preparing Video For Download...