Проведение t-тестов

Проверка гипотез в Python

James Chapman

Curriculum Manager, DataCamp

Задачи с двумя выборками

Сравниваем выборочные статистики по группам переменной
converted_comp — числовая переменная
age_first_code_cut — категориальная переменная с уровнями ("child" и "adult")
Получают ли пользователи, начавшие программировать в детстве, более высокую компенсацию, чем начавшие во взрослом возрасте?

Гипотезы

$H_{0}$: Средняя компенсация (в долларах США) одинакова для тех, кто начал программировать в детстве, и тех, кто начал во взрослом возрасте.

$H_{0}$: $\mu_{child} = \mu_{adult}$

$H_{0}$: $\mu_{child} - \mu_{adult} = 0$

$H_{A}$: Средняя компенсация (в долларах США) выше у тех, кто начал программировать в детстве, по сравнению с теми, кто начал во взрослом возрасте.

$H_{A}$: $\mu_{child} > \mu_{adult}$

$H_{A}$: $\mu_{child} - \mu_{adult} > 0$

Вычисление сводных статистик по группам

stack_overflow.groupby('age_first_code_cut')['converted_comp'].mean()

age_first_code_cut
adult    111313.311047
child    132419.570621
Name: converted_comp, dtype: float64

Тестовые статистики

Выборочное среднее оценивает генеральное среднее
$\bar{x}$ — выборочное среднее
$\bar{x}_{child}$ — среднее вознаграждение в выборке для начавших программировать в детстве
$\bar{x}_{adult}$ — среднее вознаграждение в выборке для начавших программировать во взрослом возрасте
$\bar{x}_{child} - \bar{x}_{adult}$ — тестовая статистика
z-оценка — (стандартизированная) тестовая статистика

Стандартизация тестовой статистики

$z = \dfrac{\text{sample stat} - \text{population parameter}}{\text{standard error}}$

$t = \dfrac{\text{difference in sample stats} - \text{difference in population parameters}}{\text{standard error}}$

$t = \dfrac{(\bar{x}_{\text{child}} - \bar{x}_{\text{adult}}) - (\mu_{\text{child}} - \mu_{\text{adult}})}{SE(\bar{x}_{\text{child}} - \bar{x}_{\text{adult}})}$

Стандартная ошибка

$SE(\bar{x}_{\text{child}} - \bar{x}_{\text{adult}}) \approx \sqrt{\dfrac{s_{\text{child}}^2}{n_{\text{child}}} + \dfrac{s_{\text{adult}}^2}{n_{\text{adult}}}}$

$s$ — стандартное отклонение переменной

$n$ — размер выборки (количество наблюдений/строк в выборке)

Предположение об истинности нулевой гипотезы

$t = \dfrac{(\bar{x}_{\text{child}} - \bar{x}_{\text{adult}}) - (\mu_{\text{child}} - \mu_{\text{adult}})}{SE(\bar{x}_{\text{child}} - \bar{x}_{\text{adult}})}$

$H_{0}$: $\mu_{\text{child}} - \mu_{\text{adult}} = 0$ $\rightarrow$ $t = \dfrac{(\bar{x}_{\text{child}} - \bar{x}_{\text{adult}}) }{SE(\bar{x}_{\text{child}} - \bar{x}_{\text{adult}})}$

$t = \dfrac{(\bar{x}_{\text{child}} - \bar{x}_{\text{adult}})}{\sqrt{\dfrac{s_{\text{child}}^2}{n_{\text{child}}} + \dfrac{s_{\text{adult}}^2}{n_{\text{adult}}}}}$

Вычисления при условии истинности нулевой гипотезы

xbar = stack_overflow.groupby('age_first_code_cut')['converted_comp'].mean()

adult    111313.311047
child    132419.570621
Name: converted_comp, dtype: float64 age_first_code_cut

s = stack_overflow.groupby('age_first_code_cut')['converted_comp'].std()

adult    271546.521729
child    255585.240115
Name: converted_comp, dtype: float64 age_first_code_cut

n = stack_overflow.groupby('age_first_code_cut')['converted_comp'].count()

adult    1376
child     885
Name: converted_comp, dtype: int64

Вычисление тестовой статистики

$t = \dfrac{(\bar{x}_{\text{child}} - \bar{x}_{\text{adult}})}{\sqrt{\dfrac{s_{\text{child}}^2}{n_{\text{child}}} + \dfrac{s_{\text{adult}}^2}{n_{\text{adult}}}}}$

import numpy as np
numerator = xbar_child - xbar_adult
denominator = np.sqrt(s_child ** 2 / n_child + s_adult ** 2 / n_adult)
t_stat = numerator / denominator

1.8699313316221844

Давайте потренируемся!

Проверка гипотез в Python