Фреймворк «There is only one test»

Проверка гипотез в R

Richie Cotton

Data Evangelist at DataCamp

Несбалансированные данные

stack_overflow_imbalanced %>% 
  count(hobbyist, age_cat, .drop = FALSE)

  hobbyist     age_cat    n
1       No At least 30    0
2       No    Under 30  191
3      Yes At least 30   15
4      Yes    Under 30 1025

Выборка называется несбалансированной, если одни группы значительно превышают другие по размеру.

Гипотезы

$H_{0}$: Доля любителей программирования среди тех, кому нет 30 лет, равна доле среди тех, кому 30 лет и больше.

$H_{A}$: Доля любителей программирования среди тех, кому нет 30 лет, отличается от доли среди тех, кому 30 лет и больше.

alpha <- 0.1

Применение критерия долей несмотря на несбалансированность

stack_overflow_imbalanced %>% 
  prop_test(
    hobbyist ~ age_cat,
    order = c("At least 30", "Under 30"),
    success = "Yes",
    alternative = "two.sided",
    correct = FALSE
  )

# A tibble: 1 x 6
  statistic chisq_df p_value alternative lower_ci upper_ci
      <dbl>    <dbl>   <dbl> <chr>          <dbl>    <dbl>
1      2.79        1  0.0949 two.sided    0.00718   0.0217

Грамматика графики

Тип графика	base-R	ggplot2
Точечный	`plot(, type = "p")`	`ggplot() + geom_point()`
Линейный	`plot(, type = "l")`	`ggplot() + geom_line()`
Гистограмма	`hist()`	`ggplot() + geom_histogram()`
Ящик с усами	`boxplot()`	`ggplot() + geom_boxplot()`
Столбчатый	`barplot()`	`ggplot() + geom_bar()`
Круговой	`pie()`	`ggplot() + geom_bar() + coord_polar()`

Грамматика проверки гипотез

Фреймворк There is only one test Аллена Дауни.
Реализован в R в пакете infer.
generate() создаёт смоделированные данные.
- Требует значительных вычислительных ресурсов.
- Устойчив к малым или несбалансированным выборкам.

null_distn <- dataset %>% 
  specify() %>% 
  hypothesize() %>% 
  generate() %>% 
  calculate()

obs_stat <- dataset %>% 
  specify() %>% 
  calculate()

get_p_value(null_distn, obs_stat)

¹ Аллен Дауни преподаёт курс «Exploratory Data Analysis in Python».

Указание переменных для анализа

Слева — прямоугольная сетка ячеек, представляющая фрейм данных с двумя выделенными столбцами. Справа от сетки — слово «specify» со стрелкой вправо, за которой следует другая сетка только с этими двумя столбцами.

specify()

specify() выбирает переменную(ые) для проверки.

Для двухвыборочных тестов используйте response ~ explanatory.
Для одновыборочных тестов используйте response ~ NULL.

stack_overflow_imbalanced %>%
  specify(hobbyist ~ age_cat, success = "Yes")

Response: hobbyist (factor)
Explanatory: age_cat (factor)
# A tibble: 1,231 x 2
  hobbyist age_cat    
  <fct>    <fct>      
1 Yes      At least 30
2 Yes      At least 30
3 Yes      At least 30
4 Yes      Under 30   
5 Yes      At least 30
6 Yes      At least 30
7 No       Under 30   
# ... with 1,224 more rows

hypothesize()

hypothesize() задаёт тип нулевой гипотезы.

Для двухвыборочных тестов используйте "independence" или "point".
Для одновыборочных тестов используйте "point".

stack_overflow_imbalanced %>%
  specify(hobbyist ~ age_cat, success = "Yes") %>%
  hypothesize(null = "independence")

Response: hobbyist (factor)
Explanatory: age_cat (factor)
Null Hypothesis: independence
# A tibble: 1,231 x 2
  hobbyist age_cat    
  <fct>    <fct>      
1 Yes      At least 30
2 Yes      At least 30
3 Yes      At least 30
4 Yes      Under 30   
5 Yes      At least 30
6 Yes      At least 30
7 No       Under 30   
# ... with 1,224 more rows

Давайте потренируемся!

Проверка гипотез в R