p-значення

Перевірка гіпотез у R

Richie Cotton

Data Evangelist at DataCamp

Кримінальні суди

  • Два можливі істинні стани.
    1. Підсудний учинив злочин.
    2. Підсудний не вчиняв злочину.
  • Два можливі вироки.
    1. Винний.
    2. Невинний.
  • Спочатку припускають, що підсудний невинний.
  • Якщо докази «поза розумним сумнівом» свідчать, що підсудний учинив злочин, виносять вирок «винний», інакше — «невинний».
Перевірка гіпотез у R

Вік першого досвіду програмування

  • age_first_code_cut класифікує, коли користувач Stack Overflow уперше почав програмувати
    1. "adult" — почали у 14 років або пізніше
    2. "child" — почали до 14 років
  • Попередні дослідження вказують, що 35% розробників почали програмувати в дитинстві
  • Чи дає наша вибірка свідчення, що серед дата-сайєнтистів частка тих, хто почав у дитинстві, вища?
Перевірка гіпотез у R

Визначення

Гіпотеза — це твердження про невідомий параметр генеральної сукупності.

Перевірка гіпотез — це тест двох конкуруючих гіпотез.

  • Нульова гіпотеза ($H_{0}$) — чинна «чемпіонка».

  • Альтернативна гіпотеза ($H_{A}$) — нова «претендентка» дослідника.

Для нашої задачі

  • $H_{0}$: Частка дата-сайєнтистів, які почали програмувати в дитинстві, така сама, як у розробників (35%).
  • $H_{A}$: Частка дата-сайєнтистів, які почали програмувати в дитинстві, більша за 35%.
1 «Naught» — британський варіант «нуль». Історично склалося, що «H-naught» — міжнародна норма вимови нульової гіпотези.
Перевірка гіпотез у R
  • Два можливі істинні стани.
    1. Підсудний учинив злочин.
    2. Підсудний не вчиняв злочину.
  • Два можливі вироки.
    1. Винний.
    2. Невинний.
  • Спочатку припускають, що підсудний невинний.
  • Якщо докази «поза розумним сумнівом» свідчать, що підсудний учинив злочин, виносять вирок «винний», інакше — «невинний».
  • У реальності істинною є або $H_{A}$, або $H_{0}$ (але не обидві).
  • Результат тесту: «відхилити $H_{0}$» або «не відхилити $H_{0}$».
  • Спочатку вважаємо нульову гіпотезу $H_{0}$ істинною.
  • Якщо дані дають «значущі» докази на користь $H_{A}$, обираємо її, інакше — $H_{0}$.

Рівень значущості — це аналог «поза розумним сумнівом» для перевірки гіпотез.

Перевірка гіпотез у R

Однобічні та двобічні тести

Графік густини стандартного нормального розподілу з прихованою серединою, видимі лише «хвости».

Тести гіпотез визначають, чи лежать статистики вибірки в «хвостах» нульового розподілу.

Тест Хвости
альтернатива відрізняється від нуля двобічний
альтернатива більша за нуль правобічний
альтернатива менша за нуль лівобічний

$H_{A}$: Частка дата-сайєнтистів, які почали програмувати в дитинстві, більша за 35%.

Наша альтернатива — «більша за», тож потрібен правобічний тест.

Перевірка гіпотез у R

p-значення

  • Чим більше p-значення, тим сильніша підтримка $H_{0}$.
  • Чим менше p-значення, тим сильніші докази проти $H_{0}$.
  • Малі p-значення означають, що статистика у «хвості» нульового розподілу (розподілу статистики за умови істинності нульової гіпотези).
    • «p» у p-значенні означає ймовірність.
    • Для p-значень «мале» означає «близьке до нуля».
Перевірка гіпотез у R

Визначення p-значення

p-значення — це

ймовірність спостерігати статистику тесту

таку ж або ще екстремальнішу

ніж у нашій початковій вибірці,

за умови, що нульова гіпотеза істинна.

Перевірка гіпотез у R

Обчислення z-статистики

prop_child_samp <- stack_overflow %>%
  summarize(point_estimate = mean(age_first_code_cut == "child")) %>%
  pull(point_estimate)

0.388

prop_child_hyp <- 0.35

std_error <- 0.0096028

z_score <- (prop_child_samp - prop_child_hyp) / std_error

3.956
Перевірка гіпотез у R

Обчислення p-значення

  • pnorm() — це CDF нормального розподілу.
  • Лівобічний тест → використайте типове lower.tail = TRUE.
  • Правобічний тест → встановіть lower.tail = FALSE.

 

p_value <- pnorm(z_score, lower.tail = FALSE)

3.818e-05
Перевірка гіпотез у R

Давайте потренуємось!

Перевірка гіпотез у R

Preparing Video For Download...