Hypotestester och z-poäng

Hypotestestning i R

Richie Cotton

Data Evangelist at DataCamp

A/B-testning

Electronic Arts (EA) är ett spelföretag.
År 2013 lanserade de SimCity 5.
Målet var att öka förhandsbeställningar av spelet.
De använde A/B-testning för att testa olika reklamscenarier.
Det innebar att dela upp användarna i kontroll- och behandlingsgrupper.

Electronic Arts byggnad

¹ Bildkälla: "Electronic Arts" av majaX1 CC BY-NC-SA 2.0

A/B-test av webbsida

Kontroll

SimCity-webbsida med banner som säger "förhandsbeställ och få $20 rabatt på nästa köp"

Behandling

SimCity-webbsida utan banner

A/B-testresultat

Behandlingsgruppen (utan annons) hade 43,4 % fler köp än kontrollgruppen (med annons).
Antagandet att "en annons skulle öka försäljningen" visade sig vara helt fel.
Var resultatet statistiskt signifikant eller bara slumpmässigt?
EA:s data krävs för att avgöra det.
Du skulle använda tekniker från Sampling in R och den här kursen för att ta reda på det.

Stack Overflow Developer Survey 2020

library(dplyr)
glimpse(stack_overflow)

Rows: 2,261
Columns: 8
$ respondent         <dbl> 36, 47, 69, 125, 147, 152, 166, 170, 187, 196, 221,…
$ age_first_code_cut <chr> "adult", "child", "child", "adult", "adult", "adult…
$ converted_comp     <dbl> 77556, 74970, 594539, 2000000, 37816, 121980, 48644…
$ job_sat            <fct> Slightly satisfied, Very satisfied, Very satisfied,…
$ purple_link        <chr> "Hello, old friend", "Hello, old friend", "Hello, o…
$ age_cat            <chr> "At least 30", "At least 30", "Under 30", "At least…
$ age                <dbl> 34, 53, 25, 41, 28, 30, 28, 26, 43, 23, 24, 35, 37,…
$ hobbyist           <chr> "Yes", "Yes", "Yes", "Yes", "No", "Yes", "Yes", "Ye…

Att formulera en hypotes om medelvärdet

En hypotes:

Populationens genomsnittliga årskompensation för datavetare är $110 000.

Punktskattningen (stickprovstatistiken):

mean_comp_samp <- mean(stack_overflow$converted_comp)

mean_comp_samp <- stack_overflow %>% 
  summarize(mean_compensation = mean(converted_comp)) %>% 
  pull(mean_compensation)

119574.7

Skapa en bootstrapfördelning

# Step 3. Repeat steps 1 & 2 many times
so_boot_distn <- replicate(
  n = 5000,
  expr = {

    # Step 1. Resample
    stack_overflow %>%
      slice_sample(prop = 1, replace = TRUE) %>%

      # Step 2. Calculate point estimate
      summarize(mean_compensation = mean(converted_comp)) %>% 
      pull(mean_compensation)

}
)

¹ Bootstrapfördelningar behandlas i kapitel 4 i Sampling in R

Visualisera bootstrapfördelningen

tibble(resample_mean = so_boot_distn) %>%
  ggplot(aes(resample_mean)) +
  geom_histogram(binwidth = 1000)

Histogram över bootstrapfördelningen – klockformad och sträcker sig ungefär mellan 110 000 och 140 000

Standardfel

std_error <- sd(so_boot_distn)

5511.674

z-poäng

$\text{standardized value} = \dfrac{\text{value} - \text{mean}}{\text{standard deviation}}$

$z = \dfrac{\text{sample stat} - \text{hypoth. param. value}}{\text{standard error}}$

$z = \dfrac{\$119,574.7 - \$110,000}{\$5511.67} = 1.737$

mean_comp_samp

119574.7

mean_comp_hyp <- 110000

std_error

5511.674

z_score <- (mean_comp_samp - mean_comp_hyp) / std_error

1.737171

Testa hypotesen

Är 1,737171 ett högt eller lågt tal?
Det är kursens centrala fråga!

Användningsfall för hypotestestning:

Avgöra om stickprovstatistik ligger nära eller långt från förväntade (eller "hypotetiska") värden.

Standardnormal (z)-fördelning

Standardnormalfördelning: normalfördelningen med medelvärde noll och standardavvikelse 1.

tibble(x = seq(-4, 4, 0.01)) %>% 
  ggplot(aes(x)) +
  stat_function(fun = dnorm) +
  ylab("PDF(x)")

Täthetskurva för PDF:en för standardnormalfördelningen

Nu kör vi en övning!

Hypotestestning i R