Перевірки гіпотез і z-оцінки

Перевірка гіпотез у R

Richie Cotton

Data Evangelist at DataCamp

A/B‑тестування

Electronic Arts (EA) — це компанія з відеоігор.
У 2013 році вони випустили SimCity 5.
Мета — збільшити передзамовлення гри.
Вони провели A/B‑тест різних рекламних сценаріїв.
Користувачів поділили на групи control і treatment.

Будівля Electronic Arts

¹ Автор зображення: «Electronic Arts» by majaX1 CC BY-NC-SA 2.0

A/B‑тест на сторінці ритейлу

Control

Сторінка SimCity з банером «pre-order and get $20 off your next purchase»

Treatment

Сторінка SimCity без банера

Результати A/B‑тесту

Група treatment (без реклами) здійснила на 43,4% більше покупок, ніж control (з рекламою).
Інтуїція «показ реклами збільшить продажі» виявилася хибною.
Чи є цей результат статистично значущим, чи це випадковість?
Потрібні дані EA, щоб це з'ясувати.
Для цього ви б застосували прийоми з курсу «Sampling in R» і цього курсу.

Опитування розробників Stack Overflow 2020

library(dplyr)
glimpse(stack_overflow)

Rows: 2,261
Columns: 8
$ respondent         <dbl> 36, 47, 69, 125, 147, 152, 166, 170, 187, 196, 221,…
$ age_first_code_cut <chr> "adult", "child", "child", "adult", "adult", "adult…
$ converted_comp     <dbl> 77556, 74970, 594539, 2000000, 37816, 121980, 48644…
$ job_sat            <fct> Slightly satisfied, Very satisfied, Very satisfied,…
$ purple_link        <chr> "Hello, old friend", "Hello, old friend", "Hello, o…
$ age_cat            <chr> "At least 30", "At least 30", "Under 30", "At least…
$ age                <dbl> 34, 53, 25, 41, 28, 30, 28, 26, 43, 23, 24, 35, 37,…
$ hobbyist           <chr> "Yes", "Yes", "Yes", "Yes", "No", "Yes", "Yes", "Ye…

Гіпотеза про середнє значення

Гіпотеза:

Середня річна компенсація в генеральній сукупності дата‑саєнтистів дорівнює $110,000.

Точкова оцінка (вибіркова статистика):

mean_comp_samp <- mean(stack_overflow$converted_comp)

mean_comp_samp <- stack_overflow %>% 
  summarize(mean_compensation = mean(converted_comp)) %>% 
  pull(mean_compensation)

119574.7

Генерація бустрап‑розподілу

# Step 3. Repeat steps 1 & 2 many times
so_boot_distn <- replicate(
  n = 5000,
  expr = {

    # Step 1. Resample
    stack_overflow %>%
      slice_sample(prop = 1, replace = TRUE) %>%

      # Step 2. Calculate point estimate
      summarize(mean_compensation = mean(converted_comp)) %>% 
      pull(mean_compensation)

}
)

¹ Бустрап‑розподіли розглянуто в розділі 4 курсу Sampling in R

Візуалізація бустрап‑розподілу

tibble(resample_mean = so_boot_distn) %>%
  ggplot(aes(resample_mean)) +
  geom_histogram(binwidth = 1000)

Гістограма бустрап‑розподілу — дзвоноподібна, приблизно в діапазоні між 110000 і 140000

Стандартна похибка

std_error <- sd(so_boot_distn)

5511.674

z‑оцінки

$\text{standardized value} = \dfrac{\text{value} - \text{mean}}{\text{standard deviation}}$

$z = \dfrac{\text{sample stat} - \text{hypoth. param. value}}{\text{standard error}}$

$z = \dfrac{\$119,574.7 - \$110,000}{\$5511.67} = 1.737$

mean_comp_samp

119574.7

mean_comp_hyp <- 110000

std_error

5511.674

z_score <- (mean_comp_samp - mean_comp_hyp) / std_error

1.737171

Перевіряємо гіпотезу

1.737171 — це велике чи мале значення?
Це й є мета курсу!

Застосування перевірки гіпотез:

Визначити, чи вибіркові статистики близькі або далекі від очікуваних (або «гіпотетичних») значень.

Стандартний нормальний (z) розподіл

Стандартний нормальний розподіл: нормальний розподіл із середнім нуль і стандартним відхиленням 1.

tibble(x = seq(-4, 4, 0.01)) %>% 
  ggplot(aes(x)) +
  stat_function(fun = dnorm) +
  ylab("PDF(x)")

Графік щільності PDF для стандартного нормального розподілу

Давайте потренуємось!

Перевірка гіпотез у R