Какие A/B-тесты проводил

«Какие A/B-тесты проводил» — вопрос из категории A/B тестирование и эксперименты, который задают на 25% собеседований Продукт Менеджер. Ниже — развёрнутый ответ с разбором ключевых моментов.

Ответ

Проводил A/B-тесты для оптимизации конверсии и UX. Примеры:

  • Изменение CTA-кнопки (цвет, текст, размер) — увеличение конверсии на 12%.
  • Разные форматы onboarding (видео vs. текст) — снижение оттока на 20%.
  • Варианты ценовой страницы (разбивка тарифов, акценты) — рост подписок на 8%.

Пример анализа в Python:

import scipy.stats as stats

# Данные групп A и B
conversion_a = [120, 1000]  # 120 конверсий из 1000 пользователей
conversion_b = [150, 1000]

# Z-тест для пропорций
z_score, p_value = stats.proportions_ztest(
    [conversion_a[0], conversion_b[0]],
    [conversion_a[1], conversion_b[1]]
)
print(f"P-value: {p_value:.3f}")  # Если <0.05 — разница значима

Всегда проверял статистическую значимость (p-value <0.05) и учитывал сегменты пользователей.