A/B-тестирование в маркетинге

Анализ маркетинговых кампаний с помощью pandas

Jill Rosok

Data Scientist

Что такое A/B-тестирование?

До запуска теста определите:

Какой результат ожидается? Какова гипотеза?
Какую метрику мы хотим улучшить (например, просмотры страниц, конверсии)?
Будет ли достаточно трафика для достижения статистической значимости в разумные сроки?

Тестирование помогает оценить эффект маркетинга

Как долго нужно проводить тест?

Тест персонализированных писем

Распределение участников теста

email = marketing[marketing['marketing_channel'] == 'Email']
allocation = email.groupby(['variant'])\
                           ['user_id'].nunique()

allocation.plot(kind='bar')
plt.title('Personalization test allocation')
plt.xticks(rotation = 0)
plt.ylabel('# participants')
plt.show()

График распределения

Подготовка данных для оценки теста

# Group by user_id and variant
subscribers = email.groupby(['user_id', 
                             'variant'])['converted'].max()

subscribers = pd.DataFrame(subscribers.unstack(level=1))

Подготовка данных для оценки теста

# Drop missing values from the control column
control = subscribers['control'].dropna()

# Drop missing values from the personalization column
personalization = subscribers['personalization'].dropna()

Коэффициенты конверсии

print("Control conversion rate:", 
      np.mean(control))
print("Personalization conversion rate:", 
      np.mean(personalization))

Control conversion rate: 0.2814814814814815
Personalization conversion rate: 0.3908450704225352

Давайте потренируемся!

Анализ маркетинговых кампаний с помощью pandas