Продуктовая аналитика · Т-Банк

Подготовка к секции продуктовой аналитики (Т-Банк) — старт здесь

Это комплект для самостоятельной подготовки к 3-му этапу собеседования: секция продуктовой аналитики (60 минут, 1-на-1 с действующим аналитиком).


Как устроена секция (это важно понять до зубрёжки)

Секция — это не список отдельных задач, а ОДИН связный кейс, который разворачивается вокруг одного продукта. В начале интервьюер просит тебя выбрать продукт (не Т-Банк и не из твоего резюме, лучше тот, которым ты реально пользуешься). Дальше всё крутится вокруг него «лесенкой»:

  1. Рассказ о компании — что за бизнес, как зарабатывает, кто ЦА, конкуренты, этап.
  2. Метрики — какие смотреть, дерево метрик, North Star.
  3. Дашборд / отчётность — как построить, для кого, что показать.
  4. Идеи и приоритизация — вызовы бизнеса → идеи → приоритеты.
  5. Гипотеза + A/B-тест — как проверить, что фича сработала.
  6. Маркетинг-аналитика — оценить кампанию, продлевать или нет.
Связный кейс секции — «лесенка» вокруг одного продукта
1Компаниямодель, монетизация, конкуренты
2Метрикидерево метрик, North Star
3Дашбордцель, пользователь, что показать
4Приоритизацияидеи → RICE → выкинуть лишнее
5Гипотеза + A/Bкак проверить эффект
6Маркетингпродлевать кампанию или нет

Плюс по пути — короткие аналитические вопросы (корреляция≠причинность, упала метрика, сравнение воронок, визуализация).

Главный секрет оценки. Оценивают не «знание фактов», а как ты рассуждаешь. Баллы дают по компетенциям: scope (видишь картину целиком), communication, leadership / автономность, complexity (сложные задачи), business acumen (понимаешь бизнес), визуализация. Решающее — доходишь ли ты до сути сам, без подсказок, и челленджишь ли странные вводные, а не молча их исполняешь.

Калибровка материалов — на грейд Middle. Где можно усилить ответ до Middle+, стоит пометка «🔼 до Middle+».


7 правил, которые работают на любом вопросе

  1. Начни с цели и контекста, а не с ответа. Почти всегда первый ход — уточнить: «Какая у бизнеса цель? Какая ключевая метрика? На каком этапе продукт?». Это и есть scope + business acumen.
  2. Думай вслух и структурно. Сначала назови рамку («посмотрю с трёх сторон: …»), потом раскрывай. Структура важнее количества фактов.
  3. Челлендж вводных — это плюс, а не наглость. Если просят странное (цель ×2 за квартал, лишние фильтры в дашборд, перекрасить кнопку ради +40%) — спроси «зачем» и обоснуй, стоит ли вообще это делать.
  4. Считай в деньгах / в ключевой метрике. Любую идею оценивай через влияние на деньги или North Star + стоимость реализации.
  5. Не бойся сказать «надо проверить». Корреляция ≠ причинность; честный ответ часто — «точно сказать нельзя, нужен A/B / эксперимент».
  6. Связывай свою работу с бизнесом. Не «я сделаю дашборд», а «дашборд нужен, чтобы C-level принимал решение Х; поэтому в нём будет Y».
  7. Проговаривай предположения. «Предположу, что мы на стадии роста, тогда …» — это нормально и ценится.

Карта материалов

Раздел О чём Когда
Продукт и дерево метрик Разбор продукта (пример Кинопоиск) + дерево метрик + шаблон под свой продукт День 1
Метрики и фреймворки Фреймворки, «хорошая метрика», словарик метрик День 1
A/B-тесты Полный пайплайн A/B + подводные камни День 2
Маркетинг-аналитика CAC/LTV, каннибализация, оценка кампаний День 2
Мини-кейсы аналитики Корреляция, падение метрики, воронки, визуализация День 2
Приоритизация и дашборды RICE, спор с продактом, флоу дашборда День 3
Тренажёр: карточки ~50 карточек «вопрос → эталон» для самопроверки Каждый день
Тренажёр: мок-интервью Сценарий мок-интервью (соло или с напарником) День 3

Расписание на 3 дня

День 1 — фундамент (продукт + метрики). Изучить Продукт и дерево метрик и Метрики и фреймворки. Выбрать свой продукт и разобрать его по шаблону. Прогнать карточки по разделам «Компания» и «Метрики». Цель: за 3–4 минуты разворачивать бизнес-модель и дерево метрик.

День 2 — A/B + маркетинг + мини-кейсы. Изучить A/B-тесты, Маркетинг-аналитику, Мини-кейсы. Прогнать карточки по этим темам. Цель: проговаривать A/B-пайплайн с подводными камнями и решать CAC<LTV / каннибализацию / «упала метрика» без подсказок.

День 3 — приоритизация, дашборды, мок-прогон. Изучить Приоритизацию и дашборды. Пройти полный мок-прогон (соло или с напарником), сверить ответы по критериям, добить слабые места карточками. Цель: связный прогон всего кейса.


Как пользоваться тренажёром

Карточки. Читаешь вопрос → отвечаешь ВСЛУХ (не в голове!) → раскрываешь эталон → сверяешь. Важно проговаривать вслух: на интервью оценивают именно устную речь.

Мок-скрипт. Два режима:

  • С напарником — другу/родственнику не нужно разбираться в теме. Он зачитывает реплики интервьюера и стресс-вбросы, а после твоего ответа сверяет тебя по блоку «что хочет услышать / критерии».
  • Соло — читаешь реплику, отвечаешь на бумаге или вслух (лучше на запись), потом сам проверяешь себя по критериям.

Чек-лист готовности (самооценка после мок-прогона)

Оцени себя по каждому пункту: ✅ сам / ❗️ с подсказкой / ⛔ не смог.

  • За ~4 мин развернул бизнес-модель, монетизацию, ЦА, этап, конкурентов (прямые + косвенные), УТП.
  • Построил дерево метрик от бизнес-модели и обосновал North Star.
  • Сам зачелленджил странную цель / лишнюю задачу.
  • Приоритизировал идеи: эффект в деньгах/метрике + стоимость разработки, выкинул лишнее, отбил возражение продакта.
  • Развернул A/B-пайплайн (гипотеза → MDE → дизайн → стат-критерий → ratio/линеаризация → сетевой эффект → решение) и назвал альтернативы A/B.
  • Решил маркетинг-кейс через CAC<LTV и учёл каннибализацию.
  • Разобрал «падение метрики на 30%» по 4 блокам и отличил корреляцию от причинности.

Если по всем пунктам ✅ — готов на Middle. Где ❗️/⛔ — туда вернуться по карточкам.


Технические советы по проведению (из памятки Т-Банка)

  • Включи камеру; проверь интернет, микрофон, наушники заранее, ноутбук/наушники заряди.
  • Проходи с компьютера, не с телефона (может понадобиться что-то написать/нарисовать).
  • Не подглядывай в нейросети/поисковик — это заметно. Лучше честно рассуждать вслух и задавать уточняющие вопросы интервьюеру.
  • Следи за таймингом, но если не успеваешь — не страшно, часть вопросов могут пропустить.
  • Технические вопросы про команду/задачи оставь на следующий этап (знакомство с командой).

Разбор продукта для кейса + дерево метрик

Весь кейс на секции строится вокруг одного продукта, который ты выбираешь. Здесь — полностью разобранный пример (Кинопоиск, подписка), готовое дерево метрик и шаблон, чтобы за 30–40 минут разобрать свой продукт.

Как выбирать продукт (правила интервью)

  • Не Т-Банк и не из твоего резюме (компании, где ты работал).
  • Лучше тот, которым реально пользуешься — будешь говорить уверенно и с деталями.
  • Удобны продукты с понятной монетизацией: подписки (Кинопоиск, Я.Плюс, VK Музыка, Spotify), маркетплейсы, доставка, такси.
  • Подготовь один основной глубоко + один запасной на случай, если интервьюер забракует первый (бывает, если он сам там работал).

⚠️ Точные цифры (выручка, число подписчиков) знать не требуется. Интервьюер проверяет логику рассуждений. Все числа ниже — иллюстративные, для примера расчётов. На интервью говори «порядок величины такой-то, точные данные посмотрел бы в системе».


ПРИМЕР: Кинопоиск

1. Питч за 60 секунд (чем занимается)

Кинопоиск — российский видеосервис по подписке (SVOD, streaming video on demand): фильмы, сериалы, собственные оригиналы (Кинопоиск Originals). Исторически вырос из крупнейшей базы данных о кино с рейтингами и рецензиями (аналог IMDb) — это до сих пор мощный канал привлечения и «открытия» контента («стоит ли смотреть этот фильм»). Входит в экосистему Яндекса и продаётся в составе единой подписки Яндекс Плюс (один платёж — Кинопоиск + Музыка + кэшбэк в Такси/Еде и т.д.).

2. Как работает бизнес (бизнес-модель)

Это подписочная модель (recurring revenue) + допродажа отдельного контента. Логика: привлечь пользователя (часто через базу/рейтинги или экосистему) → дать попробовать (триал) → конвертировать в платную подписку → удерживать за счёт регулярного выхода контента, рекомендаций и удобства → монетизировать через ежемесячный платёж.

Ключевая особенность — экосистемность: многие платят за Яндекс Плюс ради доставки/такси, а Кинопоиск получают «в нагрузку». Это снижает отток (уходить дороже — теряешь всю экосистему) и удешевляет привлечение, но усложняет атрибуцию (за что именно платит человек).

3. Монетизация: потоки доходов и расходов

Доходы:

  • Подписка (основной поток) — выручка ≈ число платящих подписчиков × ARPU.
  • TVOD — аренда/покупка отдельных новинок, которых нет в подписке (transactional).
  • Реклама — ограниченно (на бесплатных страницах базы/рейтингов, трейлеры).
  • B2B / партнёрства — бандлы с операторами, устройства Smart TV, промо.
  • Косвенно: удержание пользователя в экосистеме Яндекса (кросс-продажи, данные).

Расходы:

  • Лицензирование контента (огромная статья) + производство оригиналов.
  • Инфраструктура стриминга: CDN, кодирование, хранение, трафик.
  • Привлечение (маркетинг, performance, бренд).
  • R&D / рекомендации (ML), разработка приложений под все платформы.
  • Эквайринг (приём платежей), поддержка, ФОТ.

🔼 до Middle+: упомяни, что контент — это и расход, и драйвер выручки: важна не стоимость контента сама по себе, а стоимость часа просмотра и окупаемость тайтла (сколько новых/удержанных подписчиков принёс конкретный оригинал).

4. Аудитория и сегменты

ЦА: широкая, 18–45, города, смотрят кино/сериалы дома. Полезнее сразу сегментировать:

  • По способу прихода: пришли за конкретным оригиналом vs пришли через экосистему (купили Плюс ради доставки) vs пришли из базы/рейтингов.
  • По вовлечённости: «бинджеры» (смотрят много, регулярно) vs «спящие» (платят, но почти не смотрят — риск оттока) vs сезонные (под конкретный сериал).
  • По платежу: подписчики vs покупатели TVOD vs бесплатные пользователи базы (вершина воронки, ещё не платят).
  • Новые vs удержанные (когорты).

Сегментация — это сразу +1 к business acumen и complexity. Не описывай «среднего пользователя», покажи разные группы и разную экономику по ним.

5. Этап жизненного цикла

Зрелый рынок с замедляющимся ростом. После ухода западных студий (2022) российский рынок онлайн-кинотеатров консолидируется, игроки конкурируют за контент и подписчиков. Экстенсивный рост (просто лить новых) уже дорогой → фокус смещается на удержание, ARPU, эффективность контента и экосистемный lock-in.

Что это значит для аналитики: важнее метрики retention / churn / LTV, чем чистый рост числа установок. Привлечение оценивается строго через окупаемость (CAC < LTV).

6. Конкуренты

  • Прямые (онлайн-кинотеатры РФ): Okko (Сбер), Wink (Ростелеком), IVI, START, Premier (Газпром-Медиа), KION (МТС), Amediateka.
  • Косвенные (борьба за время/внимание): YouTube, VK Видео, Telegram-каналы, соцсети, игры, обычное ТВ, пиратство (торренты — серьёзный конкурент по цене = 0).
  • По функции «базы/рейтингов»: в РФ Кинопоиск почти монополист, у западных аналогов (IMDb, Letterboxd) другая аудитория.

7. УТП / killer features

  • Уникальная база + рейтинги + рецензии — встроенный механизм «открытия» контента и огромный бесплатный трафик (SEO). У чистых стримингов этого нет.
  • Экосистема Яндекс Плюс — одна подписка на много сервисов → ниже воспринимаемая цена и ниже отток.
  • Рекомендации на ML Яндекса + покрытие всех устройств (Smart TV, моб., веб, консоли).
  • Оригиналы, которых нет у других.

8. Дерево метрик (готовое для Кинопоиска)

North Star. Раздели уровни:

  • Бизнес-North Star: выручка от подписки (или число платящих активных подписчиков).
  • Продуктовый North Star (опережающий): часы качественного просмотра на активного подписчика (или доля подписчиков, регулярно смотрящих контент, WAU/подписчики). Почему он: вовлечённость в просмотр — лучший предиктор удержания и, значит, LTV. Растёт просмотр → ниже отток → выше выручка.

Дерево (раскладываем верхнюю метрику на драйверы):

Дерево метрик: Кинопоиск (подписка)
  • 💰 Выручка от подписки
    • 👥 Число платящих подписчиков
      • ➕ Новые (привлечение)
        • Трафик / установки
        • Conversion → триал
        • Conversion триал → платная
      • 🔁 Удержанные (retention = 1 − churn)
        • Активация (просмотр в первые дни)
        • Вовлечённость: watch time, сессии
        • Каталог / удовлетворённость контентом
        • Качество рекомендаций
    • 💳 ARPU (доход на подписчика)
      • Цена / микс тарифов, апселл годовой
      • Доля платящих vs триал/промо
      • + доп. доход: TVOD, реклама
  • 📐 Юнит-экономика (поперёк дерева): LTV = ARPU × маржа ÷ churn · CAC · LTV/CAC ≥ 3 · payback · стоимость часа просмотра

Параллельно — юнит-экономика (нужна для маркетинга и приоритизации):

  • LTV = ARPU × валовая маржа × средний срок жизни (≈ 1/Churn), с дисконтированием.
  • CAC = расходы на привлечение / число привлечённых.
  • Здоровье: LTV/CAC (ориентир ≥ 3), срок окупаемости (payback), маржинальность.
  • Стоимость часа просмотра (контент+CDN) — эффективность расходов на контент.

Как презентовать дерево вслух: «Иду от выручки. Выручка = подписчики × ARPU. Подписчики = новые + удержанные, значит два рычага: привлечение и удержание. На зрелом рынке мой фокус — удержание, его драйвят активация и вовлечённость. Параллельно слежу за юнит-экономикой, чтобы привлечение окупалось».


ШАБЛОН: разбери свой продукт (заполни за 30–40 мин)

Если хочешь взять не Кинопоиск, а свой продукт — пройди по пунктам. На каждый — 2–4 предложения, не больше. Цель — уметь развернуть это вслух за 3–4 минуты.

0. Питч за 60 сек. Что это, для кого, какую проблему решает.

1. Бизнес-модель. Как зарабатывает (подписка / транзакции / реклама / комиссия маркетплейса / freemium). Кто платит и за что.

2. Потоки доходов. Перечисли 2–4 источника дохода (основной + дополнительные).

3. Потоки расходов. Перечисли 3–5 крупных статей расходов.

4. Структура участников. Если это платформа — все стороны (например, в доставке: клиенты ↔ рестораны ↔ курьеры; в маркетплейсе: покупатели ↔ продавцы). Кто кому платит.

5. ЦА и сегменты. Не «все», а 3–4 сегмента по: способу прихода / вовлечённости / платежу / новизне. У кого какая экономика.

6. Этап жизненного цикла. Выход на рынок / рост / зрелость / спад. Чем фокус аналитики на этом этапе отличается (рост → привлечение и активация; зрелость → удержание и ARPU).

7. Конкуренты. Прямые (та же потребность, тот же способ) + косвенные (та же потребность, другой способ) + «бесплатные альтернативы».

8. УТП / killer features. 2–4 штуки. Почему пользуются им, а не конкурентом.

9. North Star. Бизнесовая (деньги/клиенты) + продуктовая (опережающий индикатор вовлечённости/удержания). Обоснуй связь продуктовой → бизнесовой.

10. Дерево метрик. Верхняя метрика → разложи на 2–3 рычага → каждый рычаг на драйверы. Добавь юнит-экономику (LTV, CAC, LTV/CAC, payback).


Шпаргалка-«речёвка» для старта секции (отрепетируй вслух)

  1. «Возьму [продукт], я им активно пользуюсь и не работал в нём».
  2. «Коротко: это [бизнес-модель], зарабатывает на [основной поток], плюс [доп. потоки]. Крупные расходы — [2–3 статьи]».
  3. «Аудитория — [сегменты], экономика по ним разная: …».
  4. «По этапу — [стадия], поэтому в аналитике фокус на [метрики]».
  5. «Конкуренты: прямые […], косвенные […]. УТП — […]».
  6. «Если перейдём к метрикам — пойду от [North Star] и разложу дерево».

Это сразу закрывает business acumen, scope и задаёт структуру всему интервью.

Метрики и фреймворки — шпаргалка

Алгоритм «как выбирать метрики» (золотой путь на интервью)

Когда просят «накидай метрики продукта» — не вываливай список. Иди по шагам:

  1. Цель / контекст. Спроси (или сам задай): какая цель у бизнеса, на каком этапе продукт? От этого зависят метрики.
  2. Бизнес-модель → основные метрики. От того, как зарабатывает продукт, → ключевые метрики (выручка, подписчики, GMV…).
  3. Метрики, на которые можем влиять. Разложи ключевую метрику на драйверы (дерево).
  4. Цели по метрикам. Для направлений задай целевые значения, оцени потенциал.

Это дословно то, что хочет услышать интервьюер (из критериев банка задач): «бизнес-модель → основные метрики → метрики, на которые влияем → цели по метрикам».

Что повышает оценку: структура (а не хаотичный список), использование фреймворка, разные уровни метрик (иерархия), полнота (покрыл основные направления), метрики не дублируются, можешь объяснить каждую метрику (что это, зачем, как считать).


5 критериев хорошей метрики

(дословно проверяется в задаче «Что такое хорошая метрика»)

  1. Связь с бизнес-целями. Как метрика соотносится с тем, что важно бизнесу? Если рост метрики не приближает к цели — метрика плохая.
  2. Actionability (можем действовать). Понимаем ли, что такое хорошее/плохое изменение? Знаем ли, что делать, если она выросла/упала на 5%? Если «увидели и ничего не делаем» — метрика бесполезна.
  3. Измеримость. Умеем ли вообще её посчитать? Что с неавторизованными? Проблема сопоставления пользователь↔аккаунт (семья на одном аккаунте; один человек — много аккаунтов).
  4. Чувствительность. Реагирует ли на изменения в продукте? Виден ли эффект за шумом? (посмотреть исторический разброс).
  5. Декомпозируемость. Можно ли разложить на понятные составляющие, на которые влияем?

Анти-паттерны (vanity-метрики): «суммарное число регистраций за всё время», «общее число скачиваний» — растут всегда, ничего не говорят о здоровье. Лучше относительные (rate) и на пользователя метрики.

Пример разбора «среднее время на сайте»: для TikTok/дейтинга — отличная ключевая метрика; для Госуслуг — наоборот, хочется, чтобы человек быстрее решил задачу. Вывод: метрика не хороша/плоха сама по себе — всё зависит от целей продукта. Это и есть правильный ответ.


Фреймворки метрик

AARRR («пиратские метрики») — воронка жизненного цикла

  • Acquisition — привлечение (откуда приходят, каналы, CAC).
  • Activation — первый успех («aha-moment», первая ценность).
  • Retention — возвращаемость, удержание.
  • Revenue — монетизация (конверсия в платёж, ARPU, LTV).
  • Referral — виральность, рекомендации (k-фактор).

Удобен для продуктов с воронкой (подписки, приложения, e-commerce). На интервью — дефолтный каркас, если не знаешь, с чего начать.

Воронка AARRR — каркас метрик жизненного цикла
Acquisition · Привлечениеканалы, трафик, CAC
Activation · Активацияпервая ценность, «aha-момент»
Retention · Удержаниевозвращаемость, 1 − churn
Revenue · Монетизацияконверсия в платёж, ARPU, LTV
Referral · Виральностьрекомендации, k-фактор

HEART (Google) — для оценки UX/качества

  • Happiness — удовлетворённость (NPS, CSAT, оценки).
  • Engagement — вовлечённость (частота, глубина).
  • Adoption — принятие новых фич/новыми юзерами.
  • Retention — удержание.
  • Task success — успешность выполнения задачи (конверсия, время, ошибки).

К каждому — Goals → Signals → Metrics. Хорош, когда обсуждают качество и фичи.

Пирамида / иерархия метрик

  • L0 — North Star (одна главная).
  • L1 — драйверы North Star (несколько).
  • L2 — input-метрики, на которые команды влияют напрямую.

Показывает, что ты понимаешь разные уровни метрик (что хочет услышать интервьюер).

Прочее (упомянуть, если к месту)

  • PULSE (старый «здоровьевый» набор: Page views, Uptime, Latency, 7-day active, Earnings).
  • Метрики продукта vs метрики роста: продуктовые (retention, engagement, активация — «насколько хорош продукт») vs ростовые (привлечение, виральность, конверсия в платёж — «как масштабируемся»). Хорошо явно их разделять.

North Star: как выбрать и не ошибиться

  • North Star — метрика, отражающая ценность, которую продукт даёт пользователю и которая ведёт к деньгам. Не сами деньги (это lagging), а опережающий индикатор.
  • Признаки хорошей NSM: связана с ценностью; предсказывает выручку/удержание; команда может на неё влиять; не геймится в ущерб пользователю.
  • Примеры: Airbnb — ночи бронирований; Spotify — время прослушивания; WhatsApp — отправленные сообщения; маркетплейс — кол-во успешных заказов; подписка — регулярный «качественный» просмотр/использование.
  • На интервью: назови бизнесовую (деньги/клиенты, lagging) и продуктовую (вовлечённость, leading) и объясни связь между ними.

Leading vs Lagging, Guardrail-метрики

  • Lagging (запаздывающие): выручка, отток за период — итог, поздно реагировать.
  • Leading (опережающие): активация, вовлечённость — предсказывают lagging, можно влиять заранее. Хороший аналитик строит работу вокруг leading.
  • Guardrail / контрметрики: то, что не должно сломаться, пока гоним основную метрику. Пример: гоним конверсию в платёж → следим, что не вырос отток / жалобы / не упала маржа. Обязательно упоминать guardrail в A/B и в дашбордах.

Словарик метрик (определения + формулы)

Активность / вовлечённость

  • DAU / WAU / MAU — уникальные активные за день / неделю / месяц. Важно: что такое «активный»? (зашёл? совершил ключевое действие? — уточняй определение.)
  • Sticky Factor = DAU / MAU — как часто месячные юзеры заходят (0–1; 0.2 ≈ заходит ~6 дней/мес). Метрика «прилипчивости».
  • Frequency — частота действия на пользователя за период.
  • Session length / depth — длина/глубина сессии.

Удержание / отток

  • Retention (N-day, classic) — % новых, вернувшихся именно на день N.
  • Rolling retention — % вернувшихся в день N или позже.
  • Range retention — % активных в окне (напр., 7-й–14-й день).
  • Churn rate — % ушедших за период. Для подписки: отписавшиеся / база на начало периода.
  • Lifetime ≈ 1 / churn (при стабильном оттоке): месячный churn 5% → срок жизни ≈ 20 мес.

Деньги / экономика

  • ARPU = выручка / все пользователи. ARPPU = выручка / платящие пользователи.
  • Conversion Rate (CR) — доля прошедших шаг (visit→signup, trial→paid и т.п.).
  • AOV (avg order value) — средний чек. GMV — оборот (для маркетплейсов).
  • Take rate — % комиссии платформы от GMV.
  • LTV (пожизненная ценность) ≈ ARPU × валовая_маржа / churn (с дисконтированием для длинных горизонтов). Считают от прибыли, не от выручки (от выручки — упрощение).
  • CAC = расходы на привлечение / число привлечённых. Paid CAC (только платные каналы) vs blended CAC (все привлечённые, включая органику).
  • LTV / CAC — здоровье привлечения, ориентир ≥ 3.
  • Payback period — за сколько окупается CAC (= CAC / маржа за период).
  • ROMI / ROI = (доход от вложений − вложения) / вложения.

Качество / удовлетворённость

  • NPS = % промоутеров − % детракторов (по «порекомендуете ли»).
  • CSAT — удовлетворённость (оценка после взаимодействия).
  • CR в активацию — доля дошедших до «aha-момента».

Среднее vs медиана/квантили (часто спрашивают, см. также Мини-кейсы)

  • Среднее искажается выбросами и скошенными распределениями (доходы, чеки, время).
  • Для таких данных используй медиану / перцентили (p50, p90, p95).
  • Пример: «средний чек» при нескольких огромных заказах врёт → медиана честнее; p95 времени загрузки важнее среднего для оценки худшего опыта.

На любую названную метрику будь готов ответить тройку: что это / зачем / как считать. Интервьюер часто переспрашивает: «ты назвал LTV — что это и как посчитаешь?».

A/B-тесты: полный пайплайн + подводные камни

На секции это один из ключевых блоков. Тебя проведут по цепочке: «как понять, что фича сработала → как организуешь тест → сколько стоит → что если нет времени → подводные камни». Цель — проговорить весь пайплайн вслух и знать про сетевой эффект, ratio-метрики + линеаризацию, выбор стат-критерия, принятие решения и альтернативы A/B.

Зачем нужен A/B (и почему он сильнее «просто посмотреть динамику»)

A/B изолирует причинный эффект изменения от всего остального (сезонность, маркетинг, тренды, другие релизы). «Посмотреть на динамику до/после» — это корреляция, её ломают внешние факторы. A/B = рандомизация → группы статистически идентичны → разницу можно приписать фиче.

Слабый ответ на «как понять, что фича сработала» = «посмотрю на динамику метрики». Сильный = «поставлю A/B: гипотеза, цель, MDE, дизайн, критерий, решение».

Пайплайн (проговаривай по этим шагам)

Пайплайн A/B-теста
  1. 1Гипотезафальсифицируемая: изменение X → метрика M на ≥ Δ, потому что…
  2. 2Метрикицелевая (OEC) + guardrail + диагностические
  3. 3MDE и мощностьα=5%, мощность 80% → размер выборки
  4. 4Единица рандомизацииюзер; для сетевых эффектов — кластер/гео
  5. 5Дизайн и сплитA/A, проверка SRM
  6. 6Длительность≥ недельные циклы, без peeking
  7. 7Мониторингалерты на guardrail и аномалии
  8. 8Анализ и решениезначимость + практическая важность + guardrail + сегменты
  1. Гипотеза. Чёткая, фальсифицируемая: «изменение X повысит метрику M на ≥ Δ, потому что [механизм]». Пример: «новая онбординг-подсказка повысит trial→paid конверсию на 2 п.п., потому что снижает порог первого просмотра».
  2. Метрики:
    • Целевая (OEC) — что хотим двигать (1 главная).
    • Guardrail / контрметрики — что не должно сломаться (отток, жалобы, маржа, время загрузки).
    • Proxy / диагностические — помогают понять почему (шаги воронки).
  3. MDE и мощность. Определи минимальный детектируемый эффект (MDE) — наименьшее изменение, которое экономически важно. Зафиксируй α (обычно 5%) и мощность 1−β (обычно 80%). Из них + базовый уровень и дисперсия → размер выборки и длительность.
  4. Единица рандомизации. Чаще пользователь (а не сессия/запрос), чтобы один человек не попадал в обе группы. Для сетевых эффектов — кластер/регион (см. ниже).
  5. Дизайн и сплит. Доли (50/50 или меньший трафик на риск), A/A-проверка, проверка SRM (sample ratio mismatch — фактическое деление совпадает с задуманным?).
  6. Длительность. Покрыть ≥ 1–2 недельных цикла (будни/выходные), дождаться набора выборки. Не подглядывать и не останавливать на первой значимости (peeking раздувает ошибку I рода).
  7. Мониторинг. Алерты на guardrail и на аномалии, дашборд теста. Не вмешиваться без серьёзной причины.
  8. Анализ и решение (см. раздел «Принятие решения»).

MDE, ошибки, мощность — коротко

  • Ошибка I рода (α, false positive): сказали «эффект есть», а его нет. Контролируем уровнем значимости (5%).
  • Ошибка II рода (β, false negative): эффект есть, а мы не заметили. Контролируем мощностью (1−β, обычно 80%).
  • Чем меньше MDE / чем больше дисперсия → тем больше нужна выборка (растёт ~квадратично при уменьшении MDE).
  • Множественные сравнения: много метрик/вариантов → растёт шанс ложного срабатывания → поправки (Bonferroni/Holm) или заранее одна OEC.
🧮 Калькулятор размера выборки для A/B (конверсия)
Нужно на группу
Всего (2 группы)
Длительность
Формула двух пропорций: n = (zα+zβ)² · [p₁(1−p₁)+p₂(1−p₂)] / (p₂−p₁)². Меньше MDE → кратно больше выборка.

Выбор статистического критерия

Тип метрики Критерий
Конверсия / доля (бинарная) z-тест для долей или χ² (хи-квадрат)
Среднее непрерывной (выручка/юзер, время) t-тест (Уэлча); при больших n работает за счёт ЦПТ
Сильно скошенные / тяжёлые хвосты бутстреп или Манн–Уитни (но он про сдвиг распределения, не про среднее — аккуратно)
Ratio-метрика (CTR, конверсия по событиям) линеаризация / дельта-метод / бутстреп (см. ниже)
>2 вариантов ANOVA + поправка на множественность

Перед выбором всегда уточни: что за метрика и какая единица рандомизации.

Ratio-метрики и линеаризация (частый «подводный камень» — знай обязательно)

Проблема. Метрика вида сумма(числитель) / сумма(знаменатель), посчитанная по событиям (например, CTR = клики/показы), когда рандомизируем по пользователю, а считаем по показам. Тогда:

  • единица рандомизации (юзер) ≠ единица наблюдения (показ);
  • наивная дисперсия считает события независимыми → занижает дисперсию → ложная значимость.

Решение — линеаризация (это и есть «привести наблюдение к нужному виду» из кейса): для каждого пользователя считаем линеаризованную величину Lᵢ = numᵢ − r̄ · denᵢ, где r̄ — общий ratio (по контролю). Теперь Lᵢ — одна величина на пользователя, к её средним можно применить обычный t-тест. Среднее L пропорционально изменению ratio, а дисперсия посчитана корректно (по пользователям).

Альтернативы: дельта-метод (аналитическая дисперсия отношения) или bucket-бутстреп.

Формулировка вслух: «CTR — ratio-метрика, единица рандомизации (юзер) не совпадает с единицей наблюдения (показ), наивная дисперсия занижена. Применю линеаризацию: для каждого юзера L = клики − r·показы, и сравню средние L t-тестом. Либо дельта-метод/бутстреп».

Сетевой эффект (SUTVA нарушается) — обязательно упомянуть

Проблема. Лечение одной группы влияет на контроль: соцсети, мессенджеры, маркетплейсы, двусторонние рынки, реферальные/конкурентные за ресурс фичи. Тест/контроль «перетекают» → эффект смещён (часто недооценён).

Решения:

  • Кластерная (групповая) рандомизация — делим не людей, а кластеры: города/регионы, соц-кластеры, сообщества. Внутри кластера все в одной группе → утечки нет.
  • Гео-эксперименты — рандомизация по регионам (когда юзер-уровень невозможен).
  • Switchback — переключаем фичу во времени по локации (для логистики/такси/доставки, где предложение ограничено: цены, подача).
  • Ego-network / граф-кластеризация — для соцграфов.

Минус кластерных дизайнов — меньше «единиц» → нужна большая мощность/дольше тест.

Снижение дисперсии (повышение чувствительности)

  • CUPED — используем ковариату из до-экспериментального периода (например, прошлую активность юзера), чтобы убрать «фоновую» дисперсию → тот же эффект ловим меньшей выборкой или быстрее. Полезно, когда выборки впритык.
  • Стратификация, триминг выбросов, выбор более чувствительной метрики.

Принятие решения по тесту

Заранее (до старта) зафиксируй критерий успеха. На выходе проверь:

  1. Стат-значимость: p < α (или доверительный интервал эффекта не накрывает 0).
  2. Практическая значимость: эффект ≥ MDE и окупает стоимость раскатки/поддержки. Бывает «значимо, но мизерно» → не катить.
  3. Guardrail-метрики не сломаны (отток, жалобы, маржа, скорость).
  4. Sanity-чеки: прошла ли A/A, нет ли SRM, ровные ли группы.
  5. Сегменты: эффект однородный или держится только на сегменте? (может, катить точечно).
  6. Если не значимо — это не «эффекта нет», а «не обнаружили». Либо не катим, либо продлеваем (если был недонабор мощности), но не подгоняем.

Опасность peeking: остановка «как только стало значимо» раздувает ошибку I рода. Решение — фиксированный горизонт или методы последовательного анализа (sequential / always-valid).

Альтернативы A/B (когда рандомизация невозможна / «нет времени»)

Если торопят катить без A/B — сначала отстаивай A/B (риск выкатить вредное; знание масштабируется на другие продукты; сдвиг релиза на неделю обычно дешевле ошибки). Если всё же нельзя — предложи квазиэксперимент:

  • Diff-in-Diff (разность разностей) — сравниваем изменение метрики у затронутой группы/региона vs незатронутой за тот же период. Убирает общий тренд.
  • Синтетический контроль — строим «двойника» затронутого региона как взвешенную смесь других регионов, совпадающую в до-периоде, и сравниваем после.
  • Регионы-близнецы / гео-холдаут — заранее держим контрольный регион без изменения.
  • Causal inference: матчинг, регрессия с контролями, инструментальные переменные.
  • Самое слабое — до/после (pre-post): путает эффект с сезонностью/трендом, только как грубая прикидка.

Когда A/B вообще не нужен

  • Стадия бизнеса: на раннем продукте трафика не хватит на мощность — быстрее решать качественно/логикой; A/B окупается, когда есть масштаб.
  • Очевидные / обязательные изменения: баг-фиксы, требования закона, безопасность.
  • Стоимость теста > ценности ответа.
  • Стратегические/необратимые решения, которые не сводятся к метрике одного экрана.

Стоимость теста

  • Прямые: разработка эксперимента, аналитика, инфраструктура.
  • Альтернативные (opportunity cost): держим часть юзеров на старой версии → недополученный эффект, если фича хорошая; или задержка релиза.
  • Но ценность теста = избегаем выкатки вредного + получаем знание, масштабируемое на соседние продукты. Поэтому «тест дороже разработки» — не повод отказаться, если фича рискованная или знание переиспользуемо.

Мини-FAQ для стресс-вопросов

  • «Тест дороже самой фичи — проводить?» → Да, если фича рискованная/масштабируемая: цена ошибки и переиспользуемость знания перебивают стоимость теста. Обоснуй цифрами.
  • «Нет времени, катим без A/B» → Назову риски, предложу alternative (diff-in-diff/гео-холдаут), но буду настаивать на хотя бы частичной раскатке с холдаутом.
  • «Всегда ли нужен A/B при раскатке?» → Нет, зависит от стадии, обратимости и стоимости.
  • «Метрика — это CTR, как сравнишь?» → Это ratio → линеаризация/дельта-метод, t-тест по пользователям.
  • «Это соцфича / маркетплейс» → сетевой эффект → кластерная/гео/switchback рандомизация.

Маркетинг-аналитика — шпаргалка

На секции есть кейс про оценку рекламы/кампании и решение «продлевать или нет». Главные идеи: CAC < LTV, дисконтирование, каннибализация / инкрементальность, и как оценивать кампанию без прометки (гео-холдаут, синтетический контроль, промокоды).

Базовый каркас решения «оставлять ли привлечение/рекламу»

Главный критерий: CAC < LTV привлечённых клиентов.

  • CAC (cost of acquisition) = расходы на канал / число привлечённых.
  • LTV считаем от прибыли (маржи), не от выручки; для длинного горизонта — с дисконтированием (будущие деньги дешевле сегодняшних).
  • Здоровье: LTV/CAC ≥ 3, payback (срок окупаемости) укладывается в целевой.
  • Альтернатива/дополнение: ROMI/ROAS, сравнение с бенчмарками рынка.

Слабый ответ = «посмотрю динамику метрик в регионе». Сильный = «сравню CAC с LTV именно привлечённых клиентов, с учётом каннибализации».

🧮 Калькулятор LTV / CAC и окупаемости
Срок жизни (1/churn)
LTV (от прибыли)
LTV / CAC
Окупаемость (payback)
LTV = ARPU × маржа × (1/churn). Ориентир здоровья: LTV/CAC ≥ 3. На раннем этапе допустим временный минус ради роста.

CAC > LTV — это всегда плохо?

Нет. Зависит от стадии бизнеса:

  • Ранний/ростовой этап: иногда осознанно привлекают «в минус», рассчитывая на будущий LTV, рост доли рынка, экосистемные эффекты, удешевление CAC с масштабом.
  • Зрелый этап: привлечение обязано окупаться, иначе режем канал.
  • Плохой ответ — «привлечение всегда должно быть в плюс прямо сейчас».

Каннибализация и инкрементальность (ключевая идея кейса)

Вопрос интервьюера: «А что если по промокоду / рекламе пришли те, кто и так бы пришёл?» Это и есть проблема каннибализации: реклама/промо «забирает себе» органических пользователей, которые конвертировались бы бесплатно.

  • Атрибуцияинкрементальность. Атрибуция говорит «этому каналу приписалась конверсия». Инкрементальность — «эта конверсия не случилась бы без канала». Платить стоит только за инкрементальные конверсии.
  • Типовые примеры каннибализации: реклама по брендовому запросу (человек и так искал тебя); промокод, утёкший на купонники; промо на существующих/возвращающихся клиентов.

Как измерить инкрементальность (отделить «новых» от органики):

  • Холдаут / гео-эксперимент: часть аудитории/регионов не показываем рекламу, сравниваем долю/число новичков с теми, кому показывали. Разница = инкремент.
  • Diff-in-diff / синтетический контроль по регионам (см. ниже).
  • Ghost ads / PSA-тест: контролю показывают «пустую» рекламу — корректное сравнение.
  • Для промокода: сравнить долю по-настоящему новых пользователей среди активировавших код vs базовую долю новичков; разнести код по сегментам (новый/действующий клиент).

Оценка кампании БЕЗ прометки трафика (офлайн: баннеры и т.п.)

Кейс: «месяц висели баннеры, прометки нет, продлевать контракт?» Идём по возрастанию качества ответа:

  1. (слабо) Посмотреть динамику метрик в регионе размещения — но это путает эффект с сезонностью/трендами.
  2. (хорошо) Регионы-близнецы / синтетический контроль: сравнить регион с баннерами с похожими регионами без них (или с синтетическим двойником) → оценить прирост.
  3. (хорошо) Brand lift / рост брендовых запросов, прямых заходов, органики в регионе.
  4. (лучше) Свести к CAC < LTV привлечённых (инкрементальных) клиентов.

Если был промокод: считаем, сколько активировали код → но сразу проверяем каннибализацию (см. выше): сколько из них реально новые, а не нашедшие код в интернете.

Как улучшить замер «ещё на старте» (вопрос про проактивность)

Если можешь вмешаться до запуска — спроектируй кампанию так, чтобы выводы были чистыми:

  • Заложить контроль: гео-холдаут (контрольный регион) или рандомизированный холдаут аудитории заранее.
  • Прометка трафика: UTM-метки, отдельные лендинги/номера телефонов, уникальные промокоды на канал (и на гео), чтобы атрибуция была однозначной.
  • Замерить baseline до старта (база сравнения) и зафиксировать критерий успеха заранее (целевой CAC/ROMI, MDE).
  • Продумать, как отделить инкремент от органики (план измерения каннибализации).
  • Согласовать с аналитикой набор событий/логирование до запуска.

Атрибуция (если спросят про каналы)

  • Модели: last-click (вся заслуга последнему касанию), first-click, линейная, time-decay, position-based, data-driven.
  • Проблема: ни одна модель не отражает причинность; разные модели дают разные выводы. Поэтому для решений по бюджету надёжнее инкрементальные эксперименты (холдауты), а не только модель атрибуции.

Чек-лист для маркетингового кейса (проговори по нему)

  1. Какая цель и стадия бизнеса? (от этого зависит, допустим ли минус по CAC)
  2. Критерий = CAC < LTV привлечённых; LTV от прибыли, с дисконтированием.
  3. Каннибализация: сколько клиентов инкрементальные, а не органика?
  4. Как измерить инкремент без прометки: гео-холдаут / синтетический контроль / brand lift.
  5. Что изменил бы на старте: холдаут, UTM, уникальные промокоды, baseline, критерий успеха.
  6. Решение: продлевать, если инкрементальный CAC < LTV и канал укладывается в payback.

Аналитические мини-кейсы (из банка задач)

Короткие задачи, которые вплетают в секцию. По каждой — формулировка, правильная логика и что хочет услышать интервьюер.

1. Корреляция ≠ причинность

Кейс. «Пользователи, подключённые к программе лояльности (ПЛ), на 30% чаще покупают. Сейчас ПЛ у половины. Что будет, если автоматически подключить всех?»

Правильная логика:

  • Это корреляция, а не доказанная причинность. Возможны минимум два объяснения:
    1. Третья переменная: изначально мотивированные/лояльные сами подключают ПЛ и больше покупают. Тогда автоподключение остальных не даст +30%.
    2. Есть причинность: сама ПЛ повышает частоту покупок. Тогда эффект будет (но вряд ли ровно +30%).
  • Вывод: точно сказать нельзя. Нужно проверить причинность — A/B-тест (рандомно подключить часть и сравнить).

Доп. вопрос «как понять, что первично?» → только эксперимент: рандомизированное подключение ПЛ vs контроль. Наблюдательные данные причинность не докажут.

Шаблон ответа на любой «X связан с Y, давайте сделаем больше X»: «это корреляция; возможна обратная причинность или общий фактор; проверим A/B».

2. Сравнение воронок и статзначимость

Кейс. «Две воронки: веб и мобильное приложение. Можно ли считать конверсии в покупку одинаковыми?»

Правильная логика:

  • Нельзя сравнивать «на глаз» — разница может быть шумом. Нужна статистическая значимость: проверяем гипотезу о равенстве.
  • На сколько должны различаться, чтобы считать разными? → зависит от объёма данных и дисперсии; формализуется через стат-критерий и доверительный интервал, а не «на глаз».

Какой критерий:

  • Разница конверсий (долей)z-тест для долей или χ² (хи-квадрат).
  • Разница средних (напр., частота покупок 3.7 в вебе vs 4.3 в моб.) → t-тест (при тяжёлых хвостах — бутстреп / Манн–Уитни).

Подводные камни воронок (🔼 до Middle+):

  • Сегменты разные: в вебе и в приложении разная аудитория → конверсии не сопоставимы напрямую (confounding). Сравнивать сопоставимые сегменты.
  • Конверсию часто считают неправильно: путают знаменатели (от визитов? от уникальных юзеров? от дошедших до шага?). Сначала договорись об определении.

3. Падение ключевой метрики на 30% — алгоритм по 4 блокам

Кейс. «Ключевая метрика за вчера резко упала на 30% к среднему. Что делаешь?»

Не гадай хаотично — иди по 4 блокам (называй причины из каждого, это и есть критерий «++»):

Блок 1 — Смотрим на данные (не сломалось ли измерение).

  • Сезонность, праздники, день недели, погрешность (посмотреть период подлиннее).
  • Счётчики/логирование/хранилище/отчёт сломались, недогруз данных.
  • Разложить на числитель и знаменатель (абсолюты заявок и визитов) — из-за чего именно падение.

Блок 2 — Локализуем сегмент.

  • Конкретный источник трафика просел.
  • Конкретный браузер / устройство / ОС / регион.
  • Конкретный шаг воронки (например, все отваливаются после ввода телефона).

Блок 3 — Работоспособность продукта.

  • Пройти флоу самому, поискать баги.
  • Были ли релизы / изменения страницы / параллельные A/B.
  • Изменения в самом продукте (поменяли ставку/условия/цену).
  • Не перетёк ли трафик на другую страницу/продукт.

Блок 4 — Внешние факторы.

  • Конкуренты что-то запустили (акция, демпинг).
  • Макрособытия (закон, пандемия, праздник).
  • Новости о компании (репутационный фон, скандал).
Падение метрики: 4 блока поиска причины
1Данные / измерение
  • сезонность, праздники, день недели
  • сломанное логирование, недогруз
  • числитель vs знаменатель
2Локализация сегмента
  • источник трафика
  • браузер / устройство / регион
  • конкретный шаг воронки
3Продукт
  • релизы, изменения, параллельные A/B
  • баги (пройти флоу самому)
  • изменения условий / цены
4Внешние факторы
  • конкуренты (акция, демпинг)
  • макро: закон, праздник
  • новости о компании

Структура «данные → сегмент → продукт → внешнее» = от самого вероятного/дешёвого к внешнему. Сначала исключи поломку измерения, потом ищи реальную причину.

Доп. вопрос «конкуренты снизили цены, как вернуть конверсию?» → не «тоже снизим цены» рефлекторно. Сначала: что с P&L / маржой, можем ли позволить демпинг; как долго идёт акция конкурента; может, полезно, что отсеяли промо-сикеров и остались лояльные; есть ли неценовые рычаги (контент, UX, бандлы). Решение — от юнит-экономики, а не «гонка вниз».

4. Среднее vs медиана / квантили

  • Среднее искажается выбросами и скошенными распределениями (доходы, чеки, время на сайте, время загрузки).
  • Для таких — медиана (p50) и перцентили (p90/p95).
  • Примеры: «средний чек» при нескольких гигантских заказах врёт → медиана честнее; для скорости/латентности важен p95 (худший опыт), а не среднее.
  • Когда среднее ок: симметричные распределения без тяжёлых хвостов; когда нужна аддитивность (суммарная выручка = среднее × кол-во).
  • Хороший ответ — привести примеры под обе метрики и сказать, когда какую.

5. Визуализация: плохо → хорошо

Типовые «плохие» графики (узнавай и предлагай замену):

  • Две столбчатые серии для динамики конверсии — самой метрики (конверсии) на графике нет, её надо досчитывать в уме. → Заменить на одну посчитанную конверсию линией (динамика) или столбиком; добавить читаемые даты и подписи.
  • Круговая диаграмма для сравнения структуры период-к-периоду или между объектами — плохо считывается. → Stacked bar / линии / таблица с долями.
  • Голые абсолюты вместо rate — для rate-метрик показывать проценты (ReturnRate и т.п.).

Что делает график хорошим:

  • Выбран тип под задачу: динамика → линия; сравнение → бары; структура → stacked; распределение → гистограмма/боксплот; взаимосвязь → scatter; текущее значение → одна цифра/гейдж.
  • Цветом выделено главное, есть заголовок и легенда, подсвечено выполнение цели, читаемый формат чисел и дат.
  • На дашборде ≥5 идей по улучшению ценятся (см. Приоритизация и дашборды).

Книги для ссылки (если спросят, откуда): Джин Желязны «Говори на языке диаграмм»; Cole Nussbaumer Knaflic «Storytelling with Data».

Приоритизация, генерация идей и дашборды

Часть A. От вызовов бизнеса к приоритетам

Шаг 1. Найти вызовы (не баги, а зоны роста)

Интервьюер: «Какие вызовы стоят перед компанией?»

  • Слабо: минорные баги или «увеличить прибыль» (слишком общо), идеи без привязки к цели.
  • Хорошо: глобальные проблемы (рост прибыли, захват рынка) + продуктовая зона роста.
  • Лучше: назвал главные проблемы, объяснил, как они мешают расти, и выбрал North Star, относительно которой будешь приоритизировать.

Шаг 2. Сгенерировать идеи (с механизмом и эффектом)

Для каждой идеи: механизм (как она двигает метрику) + оценка эффекта на ключевую метрику. Не просто «давайте сделаем X», а «X → влияет на драйвер Y → +Z к North Star».

Каркас «где искать идеи» (он же — ответ на кейс «увеличить прибыль в N раз»):

  • Каналы привлечения (новые источники, дешевле CAC).
  • Рынок (конкуренты, новые сегменты/регионы, ценообразование).
  • Сегменты клиентов (кому ещё продать, кого удержать).
  • Unit-экономика (поднять ARPU, маржу, снизить отток, апселл/кросс-селл).
  • CJM и воронки (где теряем, что чинить).

Грейды на кейсе «прибыль ×2»: Junior — 2 направления; Middle — 4; Senior — 4+ с глубиной. Плохо — «переманим весь офлайн / разошлём промокоды / редизайн сайта» (локально, без структуры).

Шаг 3. Приоритизировать (фреймворки + деньги)

Интервьюер обычно даёт 3 идеи: перспективная + конкурирующая (новый партнёр / регион / ранжирование) + заведомо ненужная (редизайн малопосещаемого раздела / игра в B2B / тёмная тема). Задача — расставить приоритеты и выкинуть лишнее.

Как отвечать:

  • Оцени эффект в деньгах / в ключевой метрике для каждой идеи.
  • Оцени стоимость разработки (можно спросить или прикинуть).
  • Сопоставь эффект и стоимость → приоритет. Заведомо ненужное — выкинуть из бэклога (или явно сказать «не берём, потому что эффект не оправдывает затрат»).

Фреймворки приоритизации:

  • RICE = (Reach × Impact × Confidence) / Effort. Reach — сколько юзеров за период; Impact — сила эффекта; Confidence — уверенность (%); Effort — трудозатраты. Главный, называй его.
  • ICE = Impact × Confidence × Ease (проще, грубее).
  • Value / Effort матрица (2×2): быстрые победы vs большие проекты vs не делать.
  • (доп.) Kano (must-be / performance / delighters), MoSCoW (Must/Should/Could/Won't).

Слабо — ранжировать «по ощущениям / по лёгкости разработки». Хорошо — принцип + фреймворк

  • оценка эффекта. Лучше — довёл до влияния на North Star и учёл стоимость (большой эффект, но дорогая разработка ≠ автоматически первый приоритет).

Шаг 4. Спор с продактом (челлендж — это плюс)

Продакт настаивает на другой фиче с аргументами. Как парировать каждый:

  • «Это маркет-нормал» → «А релевантно ли это нашей сфере и стадии? Норма у кого, и почему это решает нашу проблему?»
  • «Это стратегическое решение» → «В какую конкретную цель стратегии оно бьёт? Как измерим?»
  • «На прошлом месте это дало +50%» → «Тот продукт/аудитория сопоставимы с нашими? Что там было драйвером? Перенесётся ли механизм сюда?»
  • Принцип: меняю приоритет только под весомые, проверяемые аргументы, привязанные к целям бизнеса. Расплывчатые вбросы — копаю вглубь, не поддаюсь.

Это прямой тест на leadership / ассертивность. Молча поднять приоритет = провал; войти в спор и докопаться до обоснования = высокий балл.


Часть B. Дашборды и отчётность

Флоу построения дашборда (проговаривай по шагам)

  1. Цель и заказчик. Зачем дашборд, кто основной пользователь, какие решения по нему принимают, на какие вопросы отвечает. Определи категорию:
    • управленческий/стратегический (C-level, верхнеуровневые KPI),
    • аналитический (разрезы, поиск причин),
    • операционный (мониторинг в реальном времени).
  2. Сбор требований от заказчиков.
  3. Макет (прототип) → согласование.
  4. Разработка.
  5. Документация (что за метрики, как считаются, источники).
  6. Отслеживание: как живёт — рассылка на почту, база отчётов, разбор на регулярных встречах, алерты.

Полнота + сторителлинг (структура борда)

  • Покрой метрики, отвечающие на вопросы борда (не больше и не меньше).
  • Раскрывай последовательно, от общего к частному. Пример: цель «число клиентов» → график MAU → разложить на новых/старых (или когорты) → новых разложить по каналам.
  • Следи за вместимостью — не перегружай.

Визуализация

  • Тип под задачу (см. Мини-кейсы): динамика → линия; сравнение → бары; структура → stacked; распределение → гистограмма; взаимосвязь → scatter; статус → одна цифра/гейдж.
  • Желательно что-то кроме «график + цифра»: подсветка целей, проценты для rate-метрик, читаемые подписи/заголовки.

Челлендж задач по дашборду (на это смотрят отдельно!)

  • «Добавь все возможные фильтры/разрезы (соцдем, регион, чек…)»спроси «зачем». Не пихай всё в верхнеуровневый борд для C-level. Расплывчатое «чтобы искать аномалии» — слабое обоснование.
  • Замечай дубликаты разрезов (возраст и возрастная группа — схлопнуть в один).
  • Предложи полезную альтернативу: вместо кучи разрезов — фильтр по видам бизнеса; вместо тяжёлого борда — алерты/рассылка на аномалии.
  • «А нужен ли вообще дашборд?» — иногда достаточно разовой выгрузки или алерта. Сильный кандидат задаёт этот вопрос сам.
  • «А если в ДВХ этих разрезов нет?» → не «тогда не получится / ждём». Проактивно: сам стану заказчиком для команды ДВХ, ещё раз оценю нужность параметра.

Работа с возражениями («отчёт — хрень, ничего не понятно»)

  • Не защищайся и не переделывай вслепую. Уточни: какие решения не получается принять, чего не хватает, кто и как пользуется. Вернись к цели борда и пересобери под реальный вопрос заказчика. Это «продажа» отчёта + работа с заказчиком.

Часть C. Работа с воронкой (что улучшать первым)

Кейс. «Сквозная воронка: 231к посетителей → 889 покупок. Что улучшать первым?»

Правильная логика (не лечи рефлекторно один шаг!):

  • Сначала уточни этапы воронки и бизнес (что за продукт, какие шаги, почему такие).
  • Смотри не только на «самый большой провал в %», но и на экономику: что даст больше денег — поднять конверсию узкого шага или работать по всей воронке.
  • Учитывай стоимость улучшения каждого шага (must have для обсуждения): дешёвый шаг с меньшим эффектом может быть выгоднее дорогого с большим.
  • Прикинь эффект на выручку при сдвиге конкретного шага vs равномерно.

Слабый ответ — сразу «давайте чинить шаг X». Сильный — уточняющие вопросы про бизнес и воронку + оценка через деньги и стоимость реализации.

Тренажёр: карточки для самопроверки

Как пользоваться: читай вопрос → отвечай ВСЛУХ (полным рассуждением, не одним словом) → жми «Показать ответ» и сверяйся. Эталон — это ориентир, не дословный текст: если твой ответ покрыл ключевые пункты — жми «✅ Знаю», иначе «🔁 Повторить». Прогресс сохраняется, можно фильтровать по темам и включить «только невыученные».


📋 Все 54 карточки одним списком

A. Компания и бизнес

A1. Какой продукт выберешь для кейса и почему именно его?

Эталон

Не Т-Банк и не из резюме; тот, которым реально пользуюсь (уверенность + детали). Готов основной + запасной. Назвать модель монетизации одной фразой.

A2. Расскажи бизнес-модель продукта за 60 секунд.

Эталон

Что это / для кого / какую проблему решает / как зарабатывает (подписка / транзакции / комиссия / реклама / freemium) / кто платит и за что. Структурно, без воды.

A3. Назови потоки доходов и расходов.

Эталон

Доходы: основной + 2–3 дополнительных. Расходы: 3–5 крупных статей. Для подписки: доход — подписка + TVOD + реклама; расходы — контент, инфраструктура, привлечение, R&D, эквайринг.

A4. На каком этапе жизненного цикла продукт и как это меняет фокус аналитики?

Эталон

Выход / рост / зрелость / спад. Рост → привлечение и активация; зрелость → удержание, ARPU, юнит-экономика. Обосновать признаками этапа.

A5. Кто конкуренты? Дай прямых и косвенных.

Эталон

Прямые — та же потребность, тот же способ. Косвенные — та же потребность, другой способ (плюс «бесплатные» альтернативы, напр. пиратство/YouTube для видео). Назвать УТП на их фоне.


B. Метрики и фреймворки

B1. Тебя просят «накидать метрики продукта». С чего начнёшь?

Эталон

Не список! Идём: цель/этап → бизнес-модель → основные метрики → метрики, на которые влияем (дерево) → цели по метрикам. Структурно + фреймворк + разные уровни метрик.

B2. Что делает метрику хорошей?

Эталон

5 критериев: связь с бизнес-целью; actionability (знаем, что делать при изменении); измеримость; чувствительность (видна за шумом); декомпозируемость. Плюс: относительные/ на пользователя лучше vanity-абсолютов.

B3. Менеджер предлагает «среднее время на сайте» как ключевую метрику. Хорошо ли?

Эталон

Зависит от целей продукта. Для TikTok/дейтинга — отлично; для Госуслуг — наоборот, хотим быстрее. Проверить по 5 критериям. Метрика не хороша/плоха сама по себе.

B4. Что такое North Star и как выбрать?

Эталон

Метрика ценности для юзера, ведущая к деньгам (leading, не сами деньги). Назвать бизнесовую (деньги/клиенты) + продуктовую (вовлечённость/удержание) и связь. Пример: время прослушивания, ночи бронирований, успешные заказы.

B5. Назови фреймворк AARRR.

Эталон

Acquisition, Activation, Retention, Revenue, Referral. Воронка жизненного цикла, дефолтный каркас.

B6. Что такое Sticky Factor?

Эталон

DAU/MAU — частота возвращения месячных юзеров (0–1). 0.2 ≈ заходит ~6 дней в месяц.

B7. Чем ARPU отличается от ARPPU?

Эталон

ARPU = выручка / всех пользователей; ARPPU = выручка / платящих. ARPPU всегда ≥ ARPU.

B8. Что такое LTV и как считаешь?

Эталон

Пожизненная ценность клиента. ≈ ARPU × валовая_маржа / churn (срок жизни ≈ 1/churn), для длинного горизонта — с дисконтированием. Считать от прибыли, не от выручки.

B9. Виды retention?

Эталон

Classic N-day (вернулся именно на день N), rolling (на день N или позже), range (активен в окне). Churn = % ушедших за период; lifetime ≈ 1/churn.

B10. Метрики продукта vs метрики роста?

Эталон

Продуктовые (retention, engagement, активация — «насколько хорош продукт») vs ростовые (привлечение, виральность, конверсия в платёж — «как масштабируемся»). Хорошо разделять явно.

B11. Что такое leading/lagging и guardrail-метрики?

Эталон

Lagging — итоговые (выручка, отток), поздно реагировать. Leading — опережающие (активация), предсказывают и управляемы. Guardrail — что не должно сломаться, пока гоним основную метрику.


C. A/B-тесты

C1. «Как понять, что фича сработала?»

Эталон

A/B: гипотеза → цель/OEC → MDE → дизайн и рандомизация → стат-критерий → решение. Не «посмотрю динамику» (это корреляция, ломается внешними факторами).

C2. Зачем нужна рандомизация / чем A/B лучше «до-после»?

Эталон

Рандомизация делает группы идентичными → разницу можно приписать фиче (причинность). «До-после» путает эффект с сезонностью/трендом/другими релизами.

C3. Что такое MDE и от чего зависит выборка?

Эталон

MDE — минимальный экономически важный эффект. Выборка растёт при меньшем MDE (~квадратично), большей дисперсии, заданных α (5%) и мощности (80%).

C4. Ошибки I и II рода?

Эталон

I (α): сказали «эффект есть», его нет (FP). II (β): эффект есть, не заметили (FN). Контроль: α — уровнем значимости, II — мощностью.

C5. Какой стат-критерий для конверсии? Для среднего?

Эталон

Конверсия/доля → z-тест долей или χ². Среднее → t-тест (Уэлча); тяжёлые хвосты → бутстреп/ Манн–Уитни.

C6. Метрика — CTR (ratio). В чём проблема и как сравнить?

Эталон

Ratio: единица рандомизации (юзер) ≠ единица наблюдения (показ) → наивная дисперсия занижена → ложная значимость. Линеаризация: L=num−r·den на юзера, t-тест по L. Либо дельта-метод/бутстреп.

C7. Что такое линеаризация ratio-метрики?

Эталон

Преобразование ratio в одну величину на пользователя L_i = num_i − r̄·den_i (r̄ — общий ratio). Среднее L пропорционально изменению ratio, дисперсия корректна → обычный t-тест.

C8. Что такое сетевой эффект в A/B и как с ним бороться?

Эталон

Лечение перетекает на контроль (соцсети, маркетплейсы, двусторонние рынки) → SUTVA нарушена, эффект смещён. Решение: кластерная/гео-рандомизация, switchback, граф-кластеризация.

C9. Что такое SRM и peeking?

Эталон

SRM — фактическое деление групп не совпадает с задуманным (баг сплита) → тест невалиден. Peeking — остановка на первой значимости раздувает ошибку I рода; нужен фикс-горизонт или sequential-методы.

C10. Как принимаешь решение по тесту?

Эталон

Стат-значимость (p<α / CI не накрывает 0) + практическая значимость (≥MDE, окупает раскатку) + guardrail целы + sanity (A/A, SRM) + проверка по сегментам. «Не значимо» ≠ «эффекта нет».

C11. Нет времени на A/B — что делать?

Эталон

Сначала отстаивать A/B (риск вредной фичи, знание масштабируемо). Если нельзя — diff-in-diff, синтетический контроль, гео-холдаут; до/после — только грубо. Настоять хотя бы на холдауте.

C12. Тест дороже разработки фичи. Проводить?

Эталон

Да, если фича рискованная или знание переиспользуемо на другие продукты: цена ошибки + масштабируемость перебивают стоимость теста. Обосновать цифрами, а не «дорого/не дорого».

C13. Всегда ли нужен A/B при раскатке?

Эталон

Нет. Зависит от стадии (на раннем продукте нет мощности), обратимости (баг-фиксы, требования закона), стоимости теста vs ценности ответа.

C14. Что такое CUPED?

Эталон

Снижение дисперсии через ковариату из до-периода (прошлая активность юзера) → выше чувствительность, меньше нужна выборка/время.


D. Маркетинг

D1. Оставлять ли платное привлечение — по какому критерию?

Эталон

CAC < LTV привлечённых; LTV от прибыли, с дисконтированием; LTV/CAC≥3; payback в норме. Учесть каннибализацию. Не «динамика метрик».

D2. CAC > LTV — всегда плохо?

Эталон

Нет. Зависит от стадии: на росте допустим минус ради доли/будущего LTV/удешевления CAC. На зрелости — должно окупаться.

D3. Что такое каннибализация в привлечении?

Эталон

Реклама/промо «забирает» органику, которая пришла бы бесплатно. Платить надо за инкрементальные конверсии, а не за атрибутированные.

D4. Как понять, что по промокоду пришли реально новые, а не органика?

Эталон

Холдаут/гео-эксперимент (часть без промо), сравнить долю по-настоящему новых; разнести код по сегментам новый/действующий; brand lift. Diff-in-diff / синтетический контроль.

D5. Оценить офлайн-баннеры без прометки трафика?

Эталон

Регионы-близнецы / синтетический контроль (регион с баннерами vs похожие без), рост брендовых запросов/прямых заходов; свести к CAC<LTV инкрементальных. Динамика «в лоб» — слабо.

D6. Что изменил бы на старте кампании для чистого замера?

Эталон

Заложить контроль (гео-холдаут/рандом-холдаут), прометка (UTM, уникальные промокоды на канал/ гео), baseline до старта, критерий успеха (целевой CAC/ROMI, MDE) заранее.


E. Мини-кейсы аналитики

E1. «У кого ПЛ — на 30% больше покупок. Подключить всех?»

Эталон

Это корреляция. Возможна третья переменная (мотивированные сами берут ПЛ и больше покупают) или причинность. Точно нельзя — нужен A/B. Авто-подключение не гарантирует +30%.

E2. Две воронки (веб vs приложение) — конверсии одинаковы?

Эталон

Нужна статзначимость, не «на глаз». Доли → z-тест/χ²; средние (частота) → t-тест. Учесть, что аудитории разные (confounding) и определение конверсии.

E3. Ключевая метрика упала на 30% за день. Действия?

Эталон

4 блока: (1) данные — сезонность, сломанное логирование, числитель/знаменатель; (2) сегмент — источник/устройство/регион/шаг воронки; (3) продукт — релизы, баги, изменения, A/B; (4) внешнее — конкуренты, макро, новости. Назвать причины из каждого.

E4. Конкуренты снизили цены, конверсия упала. Вернуть?

Эталон

Не рефлекторно демпинговать. Смотреть P&L/маржу, длительность акции конкурента, плюс отсева промо-сикеров, неценовые рычаги. Решение от юнит-экономики.

E5. Когда среднее, когда медиана/квантили?

Эталон

Скошенные/с выбросами (чеки, доходы, время) → медиана/перцентили; p95 для латентности. Среднее — симметричные данные, нужна аддитивность. Привести примеры под обе.

E6. Что не так с двумя столбцами для динамики конверсии?

Эталон

Самой конверсии на графике нет — считается в уме. Заменить на одну посчитанную конверсию линией; читаемые даты/подписи, проценты для rate.

E7. Почему круговая диаграмма плохо для сравнения структуры?

Эталон

Доли на пай-чарте плохо сравниваются (особенно период-к-периоду). Лучше stacked bar / линии / таблица с %.


F. Приоритизация и дашборды

F1. Как приоритизировать 3 фичи, одна из которых явно ненужная?

Эталон

Оценить эффект в деньгах/метрике + стоимость разработки. RICE/ICE. Заведомо ненужное — выкинуть. Не «по ощущениям / по лёгкости».

F2. Что такое RICE?

Эталон

(Reach × Impact × Confidence) / Effort. Reach — охват, Impact — сила, Confidence — уверенность %, Effort — трудозатраты.

F3. Продакт: «эта фича дала +50% на прошлом месте». Ответ?

Эталон

Сопоставимы ли продукт/аудитория? Что было драйвером? Перенесётся ли механизм? Меняю приоритет только под весомый, проверяемый аргумент, привязанный к нашим целям.

F4. Просят добавить все фильтры/разрезы в дашборд C-level. Действия?

Эталон

Спросить «зачем». Не пихать всё в верхнеуровневый борд. Заметить дубли (возраст vs возрастная группа). Предложить альтернативу (фильтр по видам бизнеса / алерты).

F5. Флоу построения дашборда?

Эталон

Цель и заказчик (категория: управленческий/аналитический/операционный) → требования → макет → разработка → документация → отслеживание (рассылка/встречи/алерты).

F6. «А нужен ли вообще дашборд?»

Эталон

Иногда хватит разовой выгрузки или алерта на аномалию. Сильно — задать этот вопрос самому до постройки.

F7. Цель — DAU 4 млн против текущих 2 млн за квартал. Достижимо?

Эталон

Зачелленджить: есть ли основания для 2× за квартал? Зачем такая цель? Уточнить, по тренду проверить, предложить адекватную/обоснованную альтернативу. Не «да/нет» наугад.

F8. «Увеличить прибыль ×2» — как структурируешь?

Эталон

Каналы привлечения, рынок/конкуренты, сегменты, unit-экономика (ARPU/маржа/отток), CJM/воронки. Middle — ≥4 направления с механизмом. Не локальное «разошлём промокоды».


G. Механика интервью

G1. Первый ход на почти любой кейс?

Эталон

Уточнить цель/контекст/этап и ключевую метрику. Проговорить предположения. Задать структуру ответа, потом раскрывать.

G2. Что повышает балл больше всего?

Эталон

Самостоятельность (без подсказок), структура, челлендж странных вводных, оценка в деньгах, связь с бизнес-целями.

G3. Что точно роняет балл?

Эталон

Молча исполнять странную задачу; хаотичный список без структуры; «посмотрю динамику» вместо A/B; путать корреляцию с причинностью; vanity-метрики.

Тренажёр: сценарий мок-интервью

Имитация секции продуктовой аналитики (60 мин). Работает в двух режимах:

  • С напарником (рекомендуется): напарнику не нужно разбираться в теме. Он зачитывает строки «🎤 Интервьюер», слушает ответ, задаёт стоп-фоллоуапы и сверяет ответ, раскрыв спойлер «Критерии оценки». Ставит ✅/❗️/⛔.
  • Соло: читаешь реплику, отвечаешь вслух (лучше на диктофон), и только потом раскрываешь спойлер с критериями и проверяешь себя. Не подглядывай в спойлер до ответа.

Инструкция напарнику (прочитай первым)

  1. Читай вслух только строки, помеченные 🎤 Интервьюер. Остальное — для тебя, не зачитывай.
  2. После вопроса молчи и слушай полный ответ. Не подсказывай. Пауза кандидата — это нормально.
  3. Когда кандидат закончил — задай 1–2 «стоп-фоллоуапа» (они специально провокационные).
  4. Раскрой спойлер «Критерии оценки» и сверь ответ. Поставь оценку шага: ✅ сам / ❗️ с подсказкой / ⛔ не смог.
  5. В начале скажи кандидату: «Выбери продукт — не Т-Банк и не из твоего резюме» и подставляй его название вместо [ПРОДУКТ] по ходу.
  6. Не торопи. Если вязнет на шаге > 5–6 мин — переходи дальше, отметь ❗️.

Засеки время. Ориентир: Прогон 1 ≈ 40–45 мин, Прогон 2 ≈ 10 мин, Прогон 3 ≈ 10 мин.


ПРОГОН 1 — Полный связный кейс (основной)

Шаг 0. Выбор продукта

🎤 Интервьюер: «Давай разберём какой-нибудь продукт. Выбери компанию — не Т-Банк и не ту, где ты работал. Лучше ту, которой сам пользуешься. Какую возьмём?»

✅ Критерии оценки

Зачёт, если: назвал продукт, которым пользуется, обосновал выбор. (дальше подставляй [ПРОДУКТ])

Шаг 1. Рассказ о компании

🎤 Интервьюер: «Расскажи, как устроен этот бизнес. Как он зарабатывает? Кто его аудитория?»

Стоп-фоллоуапы (задай по очереди):

  • «На каком этапе развития сейчас эта компания? Почему так считаешь?»
  • «С кем она конкурирует?»
  • «В чём её конкурентные преимущества?»
✅ Критерии оценки

Зачёт, если кандидат:

  • Описал бизнес-модель и монетизацию, назвал потоки доходов и расходов.
  • Учёл структуру (если платформа — все стороны: клиенты/партнёры/исполнители).
  • Выделил сегменты аудитории, а не «средний пользователь».
  • Обоснованно назвал этап жизненного цикла и его признаки.
  • Назвал прямых и косвенных конкурентов и УТП.

Красный флаг: только перечисление функций приложения; «конкурентов нет»; не может назвать, на чём зарабатывает.

Шаг 2. Метрики и дерево метрик

🎤 Интервьюер: «Ты пришёл в этот продукт аналитиком, а с метриками — лес. На какие метрики будешь смотреть в первую очередь и как их выберешь?»

Стоп-фоллоуапы:

  • «Какая здесь North Star? Почему именно она?»
  • «Ты назвал [метрику X] — что это, зачем и как её посчитать?»
✅ Критерии оценки

Зачёт, если кандидат:

  • Пошёл от цели/этапа и бизнес-модели, а не вывалил список.
  • Построил дерево (верхняя метрика → драйверы → input-метрики), назвал хотя бы один фреймворк (AARRR/HEART/пирамида).
  • Назвал North Star (бизнесовую + продуктовую) и обосновал связь.
  • Может объяснить любую названную метрику (что/зачем/как).
  • Метрики покрывают основные направления и не дублируются.

Красный флаг: хаотичный список без структуры; vanity-метрики (всего скачиваний); не может объяснить свою же метрику.

Шаг 3. Цель и челлендж (встроенная провокация)

🎤 Интервьюер: «Компания ставит цель на квартал: удвоить ключевую метрику — скажем, с 2 до 4 млн. Как думаешь, это достижимо?»

✅ Критерии оценки

Зачёт, если кандидат: челленджит — спрашивает, есть ли основания для 2× за квартал, зачем такая цель, проверяет по тренду, предлагает обоснованную альтернативу.

Красный флаг: отвечает «да/нет» наугад, не задаёт вопросов, молча принимает цель.

Шаг 4. Дашборд

🎤 Интервьюер: «Эти метрики просят собрать в дашборд для C-уровня. С чего начнёшь?»

Затем (провокация): «Продакт просит добавить туда все возможные фильтры — соцдем, возраст, возрастную группу, регион, средний чек. Сделаешь?»

  • Если спросит «зачем» — ответь расплывчато: «чтобы потом самим искать аномалии в разрезах».
  • Если спросит «есть ли данные» — ответь: «данные есть».
  • Доп.: «А если этих разрезов в хранилище нет?»
✅ Критерии оценки

Зачёт, если кандидат:

  • Спросил цель и пользователя борда, назвал категорию (управленческий/аналитический/ операционный), описал флоу (требования→макет→разработка→документация→отслеживание).
  • Зачелленджил лишние фильтры («зачем?»), не пихает всё в C-level борд.
  • Заметил дубликат (возраст vs возрастная группа), предложил альтернативу (алерты/рассылка).
  • На «нет данных в ДВХ» — проактивно стал бы заказчиком для команды ДВХ.

Красный флаг: «соберу метрики → данные → дашборд» без целей; молча добавил все фильтры.

Шаг 5. Идеи и приоритизация

🎤 Интервьюер: «Какие главные вызовы у этой компании? Предложи идеи, как их решить.»

Затем: «Оставим три идеи: (1) твоя самая перспективная; (2) выход в новый регион; (3) тёмная тема в приложении. Разработка не тянет всё сразу — как расставишь приоритеты, что возьмёшь первым, что последним?»

Затем (спор): «А продакт считает, что сначала надо делать тёмную тему — говорит, на прошлом месте это подняло MAU на 50%. Что скажешь?»

✅ Критерии оценки

Зачёт, если кандидат:

  • Выделил зону роста (не «увеличить прибыль»), привязал к North Star.
  • Идеи с механизмом и оценкой эффекта в деньгах/метрике.
  • Приоритизация через эффект + стоимость разработки, фреймворк (RICE), выкинул лишнее.
  • В споре парирует: сопоставимы ли продукты, что было драйвером, перенесётся ли механизм; меняет приоритет только под весомый аргумент.

Красный флаг: ранжирует «по ощущениям/лёгкости»; поднял приоритет тёмной темы под расплывчатый аргумент.

Шаг 6. Гипотеза и A/B

🎤 Интервьюер: «Возьмём твою топ-идею. Выкатываем фичу. Как поймёшь, что она сработала?»

Стоп-фоллоуапы:

  • «Как организуешь A/B-тест?»
  • «Сколько примерно стоит провести тест? А если он выйдет дороже самой разработки — проводить?»
  • «У нас нет времени на тест, релиз ждали ещё месяц назад. Как иначе проверить эффект?»
✅ Критерии оценки

Зачёт, если кандидат:

  • Пришёл к A/B, назвал гипотезу, цель, MDE.
  • Описал организацию: дизайн, рандомизация, мониторинг/алерты, смежные команды (поддержка/маркетинг), подумал про сетевой эффект.
  • Стоимость теста = прямые + упущенный эффект; «дороже разработки» — не повод отказаться, если фича рискованная/масштабируемая.
  • «Нет времени» → назвал альтернативы (diff-in-diff, синтетический контроль, гео-холдаут), но отстаивает A/B / хотя бы холдаут.

Красный флаг: «посмотрю динамику метрики»; сдаётся на «нет времени» без альтернатив.

🎤 (если идёт легко) «Метрика теста — это CTR. Как корректно сравнишь группы?»

✅ Критерии оценки

Зачёт: распознал ratio-метрику, назвал линеаризацию (или дельта-метод/бутстреп), объяснил, почему наивная дисперсия занижена.

Шаг 7. Маркетинг

🎤 Интервьюер: «Месяц висели баннеры с рекламой [ПРОДУКТА], прометки трафика нет. Продлевать контракт?»

Стоп-фоллоуапы:

  • «А если бы там был промокод?»
  • «Как понять, что по промокоду пришли реально новые, а не те, кто и так бы пришёл?»
  • «Что изменил бы ещё на старте кампании, чтобы аналитика была чище?»
✅ Критерии оценки

Зачёт, если кандидат:

  • Критерий CAC < LTV привлечённых (LTV от прибыли, дисконтирование); без прометки — регионы-близнецы/синтетический контроль.
  • Понимает каннибализацию, умеет её оценить (холдаут, доля реально новых).
  • На старте: контроль/холдаут, UTM, уникальные промокоды, baseline, критерий успеха.

Красный флаг: «посмотрю динамику в регионе»; не видит проблемы каннибализации.

Итог Прогона 1 (напарник заполняет)

Оцени по компетенциям (Jun / Mid / Sen), опираясь на ✅/⛔ выше:

Компетенция Где проявилась Оценка
Business acumen (бизнес) Шаги 1, 5, 7
Scope (картина целиком) Шаги 1, 2, 4
Complexity (сложные задачи) Шаги 6, 7
Leadership / автономность Шаги 3, 4, 5 (челлендж/спор)
Communication весь прогон
Визуализация Шаг 4

ПРОГОН 2 — Блиц по аналитическим мини-кейсам (~10 мин)

Зачитывай по одному, слушай ответ, потом раскрывай эталон.

🎤 «Пользователи с программой лояльности на 30% чаще покупают. Подключим всех принудительно — вырастут покупки?»

Эталон

Корреляция, не причинность; третья переменная или обратная связь; нужен A/B; +30% не гарантированы.

🎤 «Конверсия в покупку: в вебе и в приложении. Можно ли сказать, что они одинаковые?»

Эталон

Нужна статзначимость, не «на глаз»; доли → z-тест/χ²; учесть разные аудитории и определение конверсии.

🎤 (доп.) «А частоту покупок: 3.7 в вебе vs 4.3 в приложении — как сравнить?»

Эталон

Сравнение средних → t-тест (тяжёлые хвосты → бутстреп).

🎤 «Ключевая метрика вчера упала на 30%. Твои действия?»

Эталон

4 блока: данные (сезонность, сломанное логирование, числитель/знаменатель) → сегмент (источник/устройство/регион/шаг воронки) → продукт (релизы, баги, изменения, A/B) → внешнее (конкуренты, макро, новости). Причины из каждого блока.

🎤 «Когда использовать среднее, а когда медиану?»

Эталон

Скошенные/с выбросами (чеки, время) → медиана/перцентили (p95 для латентности); среднее — симметричные данные / нужна аддитивность. Примеры под обе.

🎤 «Что не так с круговой диаграммой для сравнения структуры по периодам?»

Эталон

Доли плохо сравниваются глазом; лучше stacked bar / линии / таблица с %.


ПРОГОН 3 — Стресс-челлендж (~10 мин)

Здесь проверяется, не прогибается ли кандидат и челленджит ли. Дави.

🎤 «Руководитель хочет перекрасить кнопку — говорит, конверсия вырастет на 40%. Запускаем A/B?»

✅ Что хочет услышать

Уточнить ключевую метрику и как на неё влияет эта конверсия; оценить, есть ли смысл вообще проверять (цена теста vs потенциальный эффект); может прийти к выводу, что A/B не нужен, и убедить в этом бизнес. (Это задача «Глупый АВ».) ⛔ Сразу бежит запускать тест без вопросов.

🎤 «Поверь мне, давай без теста выкатим на всех — времени нет.» (повторяй давление)

✅ Что хочет услышать

Называет риски, предлагает альтернативы, настаивает хотя бы на частичной раскатке с холдаутом. ⛔ Сдаётся.

🎤 «Добавь в дашборд C-level все 15 фильтров, что я просил. Просто сделай.»

✅ Что хочет услышать

Спрашивает «зачем», отсекает дубли, не грузит C-level борд, предлагает алерты/отдельный аналитический борд. ⛔ «Ок, сделаю».

🎤 «Это же маркет-нормал, все так делают. Значит, и нам надо.»

✅ Что хочет услышать

«Релевантно ли это нашей сфере и стадии? Как это бьёт в нашу цель? Чем подтверждается?» ⛔ Принимает как аргумент.

Итог (соло-режим)

После прогонов вернись к чек-листу готовности и отметь, где было ❗️/⛔ — добей эти темы карточками и теорией из соответствующего раздела.