Обчислення ліфту та перевірка значущості

Аналіз маркетингових кампаній у pandas

Jill Rosok

Data Scientist

Ефективність варіанту проти контролю

Обчислення ліфту:

$$ \frac{\text{Treatment conversion rate - Control conversion rate}}{\text{Control conversion rate}} $$

Обчислення ліфту

# Calcuate the mean of a and b 
a_mean = np.mean(control)
b_mean = np.mean(personalization)

# Calculate the lift using a_mean and b_mean
lift = (b_mean-a_mean)/a_mean

print("lift:", str(round(lift*100, 2)) + '%')

lift: 194.23%

t-розподіл

¹ Identification of Timed Behavior Models for Diagnosis in Production Systems. Наукова ілюстрація на ResearchGate.

P-значення

T-статистика 1,96 зазвичай є статистично значущою на рівні 95%
Залежно від контексту тесту, вам може бути прийнятний нижчий або вищий рівень значущості.

t‑тест у Python

from scipy.stats import ttest_ind

t = ttest_ind(control, personalized)

print(t)

TtestResult(statistic=-2.7343299447505074, 
            pvalue=0.006451487844694175, 
            df=552.0)

Давайте потренуємось!

Аналіз маркетингових кампаній у pandas