Какой дизайн эксперимента сделаешь для введения стикеров

«Какой дизайн эксперимента сделаешь для введения стикеров» — вопрос из категории A/B тестирование, который задают на 38% собеседований Продуктовый Аналитик. Ниже — развёрнутый ответ с разбором ключевых моментов.

Ответ

Для оценки эффекта стикеров можно использовать A/B-тест:

  1. Гипотеза: Стикеры увеличат вовлеченность (DAU, retention, сообщений на пользователя).
  2. Группы:
    • Контрольная (A) — без стикеров.
    • Тестовая (B) — со стикерами.
  3. Сплит: Рандомизация по user_id (50/50), исключая power users (чтобы избежать искажений).
  4. Метрики:
    • Основные: DAU, retention (D1/D7), avg messages per user.
    • Дополнительные: конверсия в покупку стикеров (если они платные).
  5. Длительность: 2 недели (учитывая weekly seasonality).

Пример SQL для анализа:

SELECT 
    group,
    COUNT(DISTINCT user_id) as DAU,
    AVG(message_count) as avg_messages
FROM messages
WHERE date BETWEEN '2024-01-01' AND '2024-01-14'
GROUP BY group;

Проверка: T-test для статистической значимости (p < 0.05). Если эффект положительный — релиз.