Подготовка к секции продуктовой аналитики (Т-Банк) — старт здесь
Это комплект для самостоятельной подготовки к 3-му этапу собеседования: секция продуктовой аналитики (60 минут, 1-на-1 с действующим аналитиком).
Как устроена секция (это важно понять до зубрёжки)
Секция — это не список отдельных задач, а ОДИН связный кейс, который разворачивается вокруг одного продукта. В начале интервьюер просит тебя выбрать продукт (не Т-Банк и не из твоего резюме, лучше тот, которым ты реально пользуешься). Дальше всё крутится вокруг него «лесенкой»:
- Рассказ о компании — что за бизнес, как зарабатывает, кто ЦА, конкуренты, этап.
- Метрики — какие смотреть, дерево метрик, North Star.
- Дашборд / отчётность — как построить, для кого, что показать.
- Идеи и приоритизация — вызовы бизнеса → идеи → приоритеты.
- Гипотеза + A/B-тест — как проверить, что фича сработала.
- Маркетинг-аналитика — оценить кампанию, продлевать или нет.
Плюс по пути — короткие аналитические вопросы (корреляция≠причинность, упала метрика, сравнение воронок, визуализация).
Главный секрет оценки. Оценивают не «знание фактов», а как ты рассуждаешь. Баллы дают по компетенциям: scope (видишь картину целиком), communication, leadership / автономность, complexity (сложные задачи), business acumen (понимаешь бизнес), визуализация. Решающее — доходишь ли ты до сути сам, без подсказок, и челленджишь ли странные вводные, а не молча их исполняешь.
Калибровка материалов — на грейд Middle. Где можно усилить ответ до Middle+, стоит пометка «🔼 до Middle+».
7 правил, которые работают на любом вопросе
- Начни с цели и контекста, а не с ответа. Почти всегда первый ход — уточнить: «Какая у бизнеса цель? Какая ключевая метрика? На каком этапе продукт?». Это и есть scope + business acumen.
- Думай вслух и структурно. Сначала назови рамку («посмотрю с трёх сторон: …»), потом раскрывай. Структура важнее количества фактов.
- Челлендж вводных — это плюс, а не наглость. Если просят странное (цель ×2 за квартал, лишние фильтры в дашборд, перекрасить кнопку ради +40%) — спроси «зачем» и обоснуй, стоит ли вообще это делать.
- Считай в деньгах / в ключевой метрике. Любую идею оценивай через влияние на деньги или North Star + стоимость реализации.
- Не бойся сказать «надо проверить». Корреляция ≠ причинность; честный ответ часто — «точно сказать нельзя, нужен A/B / эксперимент».
- Связывай свою работу с бизнесом. Не «я сделаю дашборд», а «дашборд нужен, чтобы C-level принимал решение Х; поэтому в нём будет Y».
- Проговаривай предположения. «Предположу, что мы на стадии роста, тогда …» — это нормально и ценится.
Карта материалов
| Раздел | О чём | Когда |
|---|---|---|
| Продукт и дерево метрик | Разбор продукта (пример Кинопоиск) + дерево метрик + шаблон под свой продукт | День 1 |
| Метрики и фреймворки | Фреймворки, «хорошая метрика», словарик метрик | День 1 |
| A/B-тесты | Полный пайплайн A/B + подводные камни | День 2 |
| Маркетинг-аналитика | CAC/LTV, каннибализация, оценка кампаний | День 2 |
| Мини-кейсы аналитики | Корреляция, падение метрики, воронки, визуализация | День 2 |
| Приоритизация и дашборды | RICE, спор с продактом, флоу дашборда | День 3 |
| Тренажёр: карточки | ~50 карточек «вопрос → эталон» для самопроверки | Каждый день |
| Тренажёр: мок-интервью | Сценарий мок-интервью (соло или с напарником) | День 3 |
Расписание на 3 дня
День 1 — фундамент (продукт + метрики). Изучить Продукт и дерево метрик и Метрики и фреймворки. Выбрать свой продукт и разобрать его по шаблону. Прогнать карточки по разделам «Компания» и «Метрики». Цель: за 3–4 минуты разворачивать бизнес-модель и дерево метрик.
День 2 — A/B + маркетинг + мини-кейсы. Изучить A/B-тесты, Маркетинг-аналитику, Мини-кейсы. Прогнать карточки по этим темам. Цель: проговаривать A/B-пайплайн с подводными камнями и решать CAC<LTV / каннибализацию / «упала метрика» без подсказок.
День 3 — приоритизация, дашборды, мок-прогон. Изучить Приоритизацию и дашборды. Пройти полный мок-прогон (соло или с напарником), сверить ответы по критериям, добить слабые места карточками. Цель: связный прогон всего кейса.
Как пользоваться тренажёром
Карточки. Читаешь вопрос → отвечаешь ВСЛУХ (не в голове!) → раскрываешь эталон → сверяешь. Важно проговаривать вслух: на интервью оценивают именно устную речь.
Мок-скрипт. Два режима:
- С напарником — другу/родственнику не нужно разбираться в теме. Он зачитывает реплики интервьюера и стресс-вбросы, а после твоего ответа сверяет тебя по блоку «что хочет услышать / критерии».
- Соло — читаешь реплику, отвечаешь на бумаге или вслух (лучше на запись), потом сам проверяешь себя по критериям.
Чек-лист готовности (самооценка после мок-прогона)
Оцени себя по каждому пункту: ✅ сам / ❗️ с подсказкой / ⛔ не смог.
- За ~4 мин развернул бизнес-модель, монетизацию, ЦА, этап, конкурентов (прямые + косвенные), УТП.
- Построил дерево метрик от бизнес-модели и обосновал North Star.
- Сам зачелленджил странную цель / лишнюю задачу.
- Приоритизировал идеи: эффект в деньгах/метрике + стоимость разработки, выкинул лишнее, отбил возражение продакта.
- Развернул A/B-пайплайн (гипотеза → MDE → дизайн → стат-критерий → ratio/линеаризация → сетевой эффект → решение) и назвал альтернативы A/B.
- Решил маркетинг-кейс через CAC<LTV и учёл каннибализацию.
- Разобрал «падение метрики на 30%» по 4 блокам и отличил корреляцию от причинности.
Если по всем пунктам ✅ — готов на Middle. Где ❗️/⛔ — туда вернуться по карточкам.
Технические советы по проведению (из памятки Т-Банка)
- Включи камеру; проверь интернет, микрофон, наушники заранее, ноутбук/наушники заряди.
- Проходи с компьютера, не с телефона (может понадобиться что-то написать/нарисовать).
- Не подглядывай в нейросети/поисковик — это заметно. Лучше честно рассуждать вслух и задавать уточняющие вопросы интервьюеру.
- Следи за таймингом, но если не успеваешь — не страшно, часть вопросов могут пропустить.
- Технические вопросы про команду/задачи оставь на следующий этап (знакомство с командой).
Разбор продукта для кейса + дерево метрик
Весь кейс на секции строится вокруг одного продукта, который ты выбираешь. Здесь — полностью разобранный пример (Кинопоиск, подписка), готовое дерево метрик и шаблон, чтобы за 30–40 минут разобрать свой продукт.
Как выбирать продукт (правила интервью)
- Не Т-Банк и не из твоего резюме (компании, где ты работал).
- Лучше тот, которым реально пользуешься — будешь говорить уверенно и с деталями.
- Удобны продукты с понятной монетизацией: подписки (Кинопоиск, Я.Плюс, VK Музыка, Spotify), маркетплейсы, доставка, такси.
- Подготовь один основной глубоко + один запасной на случай, если интервьюер забракует первый (бывает, если он сам там работал).
⚠️ Точные цифры (выручка, число подписчиков) знать не требуется. Интервьюер проверяет логику рассуждений. Все числа ниже — иллюстративные, для примера расчётов. На интервью говори «порядок величины такой-то, точные данные посмотрел бы в системе».
ПРИМЕР: Кинопоиск
1. Питч за 60 секунд (чем занимается)
Кинопоиск — российский видеосервис по подписке (SVOD, streaming video on demand): фильмы, сериалы, собственные оригиналы (Кинопоиск Originals). Исторически вырос из крупнейшей базы данных о кино с рейтингами и рецензиями (аналог IMDb) — это до сих пор мощный канал привлечения и «открытия» контента («стоит ли смотреть этот фильм»). Входит в экосистему Яндекса и продаётся в составе единой подписки Яндекс Плюс (один платёж — Кинопоиск + Музыка + кэшбэк в Такси/Еде и т.д.).
2. Как работает бизнес (бизнес-модель)
Это подписочная модель (recurring revenue) + допродажа отдельного контента. Логика: привлечь пользователя (часто через базу/рейтинги или экосистему) → дать попробовать (триал) → конвертировать в платную подписку → удерживать за счёт регулярного выхода контента, рекомендаций и удобства → монетизировать через ежемесячный платёж.
Ключевая особенность — экосистемность: многие платят за Яндекс Плюс ради доставки/такси, а Кинопоиск получают «в нагрузку». Это снижает отток (уходить дороже — теряешь всю экосистему) и удешевляет привлечение, но усложняет атрибуцию (за что именно платит человек).
3. Монетизация: потоки доходов и расходов
Доходы:
- Подписка (основной поток) — выручка ≈ число платящих подписчиков × ARPU.
- TVOD — аренда/покупка отдельных новинок, которых нет в подписке (transactional).
- Реклама — ограниченно (на бесплатных страницах базы/рейтингов, трейлеры).
- B2B / партнёрства — бандлы с операторами, устройства Smart TV, промо.
- Косвенно: удержание пользователя в экосистеме Яндекса (кросс-продажи, данные).
Расходы:
- Лицензирование контента (огромная статья) + производство оригиналов.
- Инфраструктура стриминга: CDN, кодирование, хранение, трафик.
- Привлечение (маркетинг, performance, бренд).
- R&D / рекомендации (ML), разработка приложений под все платформы.
- Эквайринг (приём платежей), поддержка, ФОТ.
🔼 до Middle+: упомяни, что контент — это и расход, и драйвер выручки: важна не стоимость контента сама по себе, а стоимость часа просмотра и окупаемость тайтла (сколько новых/удержанных подписчиков принёс конкретный оригинал).
4. Аудитория и сегменты
ЦА: широкая, 18–45, города, смотрят кино/сериалы дома. Полезнее сразу сегментировать:
- По способу прихода: пришли за конкретным оригиналом vs пришли через экосистему (купили Плюс ради доставки) vs пришли из базы/рейтингов.
- По вовлечённости: «бинджеры» (смотрят много, регулярно) vs «спящие» (платят, но почти не смотрят — риск оттока) vs сезонные (под конкретный сериал).
- По платежу: подписчики vs покупатели TVOD vs бесплатные пользователи базы (вершина воронки, ещё не платят).
- Новые vs удержанные (когорты).
Сегментация — это сразу +1 к business acumen и complexity. Не описывай «среднего пользователя», покажи разные группы и разную экономику по ним.
5. Этап жизненного цикла
Зрелый рынок с замедляющимся ростом. После ухода западных студий (2022) российский рынок онлайн-кинотеатров консолидируется, игроки конкурируют за контент и подписчиков. Экстенсивный рост (просто лить новых) уже дорогой → фокус смещается на удержание, ARPU, эффективность контента и экосистемный lock-in.
Что это значит для аналитики: важнее метрики retention / churn / LTV, чем чистый рост числа установок. Привлечение оценивается строго через окупаемость (CAC < LTV).
6. Конкуренты
- Прямые (онлайн-кинотеатры РФ): Okko (Сбер), Wink (Ростелеком), IVI, START, Premier (Газпром-Медиа), KION (МТС), Amediateka.
- Косвенные (борьба за время/внимание): YouTube, VK Видео, Telegram-каналы, соцсети, игры, обычное ТВ, пиратство (торренты — серьёзный конкурент по цене = 0).
- По функции «базы/рейтингов»: в РФ Кинопоиск почти монополист, у западных аналогов (IMDb, Letterboxd) другая аудитория.
7. УТП / killer features
- Уникальная база + рейтинги + рецензии — встроенный механизм «открытия» контента и огромный бесплатный трафик (SEO). У чистых стримингов этого нет.
- Экосистема Яндекс Плюс — одна подписка на много сервисов → ниже воспринимаемая цена и ниже отток.
- Рекомендации на ML Яндекса + покрытие всех устройств (Smart TV, моб., веб, консоли).
- Оригиналы, которых нет у других.
8. Дерево метрик (готовое для Кинопоиска)
North Star. Раздели уровни:
- Бизнес-North Star: выручка от подписки (или число платящих активных подписчиков).
- Продуктовый North Star (опережающий): часы качественного просмотра на активного подписчика (или доля подписчиков, регулярно смотрящих контент, WAU/подписчики). Почему он: вовлечённость в просмотр — лучший предиктор удержания и, значит, LTV. Растёт просмотр → ниже отток → выше выручка.
Дерево (раскладываем верхнюю метрику на драйверы):
- 💰 Выручка от подписки
- 👥 Число платящих подписчиков
- ➕ Новые (привлечение)
- Трафик / установки
- Conversion → триал
- Conversion триал → платная
- 🔁 Удержанные (retention = 1 − churn)
- Активация (просмотр в первые дни)
- Вовлечённость: watch time, сессии
- Каталог / удовлетворённость контентом
- Качество рекомендаций
- ➕ Новые (привлечение)
- 💳 ARPU (доход на подписчика)
- Цена / микс тарифов, апселл годовой
- Доля платящих vs триал/промо
- + доп. доход: TVOD, реклама
- 👥 Число платящих подписчиков
- 📐 Юнит-экономика (поперёк дерева): LTV = ARPU × маржа ÷ churn · CAC · LTV/CAC ≥ 3 · payback · стоимость часа просмотра
Параллельно — юнит-экономика (нужна для маркетинга и приоритизации):
- LTV = ARPU × валовая маржа × средний срок жизни (≈ 1/Churn), с дисконтированием.
- CAC = расходы на привлечение / число привлечённых.
- Здоровье: LTV/CAC (ориентир ≥ 3), срок окупаемости (payback), маржинальность.
- Стоимость часа просмотра (контент+CDN) — эффективность расходов на контент.
Как презентовать дерево вслух: «Иду от выручки. Выручка = подписчики × ARPU. Подписчики = новые + удержанные, значит два рычага: привлечение и удержание. На зрелом рынке мой фокус — удержание, его драйвят активация и вовлечённость. Параллельно слежу за юнит-экономикой, чтобы привлечение окупалось».
ШАБЛОН: разбери свой продукт (заполни за 30–40 мин)
Если хочешь взять не Кинопоиск, а свой продукт — пройди по пунктам. На каждый — 2–4 предложения, не больше. Цель — уметь развернуть это вслух за 3–4 минуты.
0. Питч за 60 сек. Что это, для кого, какую проблему решает.
1. Бизнес-модель. Как зарабатывает (подписка / транзакции / реклама / комиссия маркетплейса / freemium). Кто платит и за что.
2. Потоки доходов. Перечисли 2–4 источника дохода (основной + дополнительные).
3. Потоки расходов. Перечисли 3–5 крупных статей расходов.
4. Структура участников. Если это платформа — все стороны (например, в доставке: клиенты ↔ рестораны ↔ курьеры; в маркетплейсе: покупатели ↔ продавцы). Кто кому платит.
5. ЦА и сегменты. Не «все», а 3–4 сегмента по: способу прихода / вовлечённости / платежу / новизне. У кого какая экономика.
6. Этап жизненного цикла. Выход на рынок / рост / зрелость / спад. Чем фокус аналитики на этом этапе отличается (рост → привлечение и активация; зрелость → удержание и ARPU).
7. Конкуренты. Прямые (та же потребность, тот же способ) + косвенные (та же потребность, другой способ) + «бесплатные альтернативы».
8. УТП / killer features. 2–4 штуки. Почему пользуются им, а не конкурентом.
9. North Star. Бизнесовая (деньги/клиенты) + продуктовая (опережающий индикатор вовлечённости/удержания). Обоснуй связь продуктовой → бизнесовой.
10. Дерево метрик. Верхняя метрика → разложи на 2–3 рычага → каждый рычаг на драйверы. Добавь юнит-экономику (LTV, CAC, LTV/CAC, payback).
Шпаргалка-«речёвка» для старта секции (отрепетируй вслух)
- «Возьму [продукт], я им активно пользуюсь и не работал в нём».
- «Коротко: это [бизнес-модель], зарабатывает на [основной поток], плюс [доп. потоки]. Крупные расходы — [2–3 статьи]».
- «Аудитория — [сегменты], экономика по ним разная: …».
- «По этапу — [стадия], поэтому в аналитике фокус на [метрики]».
- «Конкуренты: прямые […], косвенные […]. УТП — […]».
- «Если перейдём к метрикам — пойду от [North Star] и разложу дерево».
Это сразу закрывает business acumen, scope и задаёт структуру всему интервью.
Метрики и фреймворки — шпаргалка
Алгоритм «как выбирать метрики» (золотой путь на интервью)
Когда просят «накидай метрики продукта» — не вываливай список. Иди по шагам:
- Цель / контекст. Спроси (или сам задай): какая цель у бизнеса, на каком этапе продукт? От этого зависят метрики.
- Бизнес-модель → основные метрики. От того, как зарабатывает продукт, → ключевые метрики (выручка, подписчики, GMV…).
- Метрики, на которые можем влиять. Разложи ключевую метрику на драйверы (дерево).
- Цели по метрикам. Для направлений задай целевые значения, оцени потенциал.
Это дословно то, что хочет услышать интервьюер (из критериев банка задач): «бизнес-модель → основные метрики → метрики, на которые влияем → цели по метрикам».
Что повышает оценку: структура (а не хаотичный список), использование фреймворка, разные уровни метрик (иерархия), полнота (покрыл основные направления), метрики не дублируются, можешь объяснить каждую метрику (что это, зачем, как считать).
5 критериев хорошей метрики
(дословно проверяется в задаче «Что такое хорошая метрика»)
- Связь с бизнес-целями. Как метрика соотносится с тем, что важно бизнесу? Если рост метрики не приближает к цели — метрика плохая.
- Actionability (можем действовать). Понимаем ли, что такое хорошее/плохое изменение? Знаем ли, что делать, если она выросла/упала на 5%? Если «увидели и ничего не делаем» — метрика бесполезна.
- Измеримость. Умеем ли вообще её посчитать? Что с неавторизованными? Проблема сопоставления пользователь↔аккаунт (семья на одном аккаунте; один человек — много аккаунтов).
- Чувствительность. Реагирует ли на изменения в продукте? Виден ли эффект за шумом? (посмотреть исторический разброс).
- Декомпозируемость. Можно ли разложить на понятные составляющие, на которые влияем?
Анти-паттерны (vanity-метрики): «суммарное число регистраций за всё время», «общее число скачиваний» — растут всегда, ничего не говорят о здоровье. Лучше относительные (rate) и на пользователя метрики.
Пример разбора «среднее время на сайте»: для TikTok/дейтинга — отличная ключевая метрика; для Госуслуг — наоборот, хочется, чтобы человек быстрее решил задачу. Вывод: метрика не хороша/плоха сама по себе — всё зависит от целей продукта. Это и есть правильный ответ.
Фреймворки метрик
AARRR («пиратские метрики») — воронка жизненного цикла
- Acquisition — привлечение (откуда приходят, каналы, CAC).
- Activation — первый успех («aha-moment», первая ценность).
- Retention — возвращаемость, удержание.
- Revenue — монетизация (конверсия в платёж, ARPU, LTV).
- Referral — виральность, рекомендации (k-фактор).
Удобен для продуктов с воронкой (подписки, приложения, e-commerce). На интервью — дефолтный каркас, если не знаешь, с чего начать.
HEART (Google) — для оценки UX/качества
- Happiness — удовлетворённость (NPS, CSAT, оценки).
- Engagement — вовлечённость (частота, глубина).
- Adoption — принятие новых фич/новыми юзерами.
- Retention — удержание.
- Task success — успешность выполнения задачи (конверсия, время, ошибки).
К каждому — Goals → Signals → Metrics. Хорош, когда обсуждают качество и фичи.
Пирамида / иерархия метрик
- L0 — North Star (одна главная).
- L1 — драйверы North Star (несколько).
- L2 — input-метрики, на которые команды влияют напрямую.
Показывает, что ты понимаешь разные уровни метрик (что хочет услышать интервьюер).
Прочее (упомянуть, если к месту)
- PULSE (старый «здоровьевый» набор: Page views, Uptime, Latency, 7-day active, Earnings).
- Метрики продукта vs метрики роста: продуктовые (retention, engagement, активация — «насколько хорош продукт») vs ростовые (привлечение, виральность, конверсия в платёж — «как масштабируемся»). Хорошо явно их разделять.
North Star: как выбрать и не ошибиться
- North Star — метрика, отражающая ценность, которую продукт даёт пользователю и которая ведёт к деньгам. Не сами деньги (это lagging), а опережающий индикатор.
- Признаки хорошей NSM: связана с ценностью; предсказывает выручку/удержание; команда может на неё влиять; не геймится в ущерб пользователю.
- Примеры: Airbnb — ночи бронирований; Spotify — время прослушивания; WhatsApp — отправленные сообщения; маркетплейс — кол-во успешных заказов; подписка — регулярный «качественный» просмотр/использование.
- На интервью: назови бизнесовую (деньги/клиенты, lagging) и продуктовую (вовлечённость, leading) и объясни связь между ними.
Leading vs Lagging, Guardrail-метрики
- Lagging (запаздывающие): выручка, отток за период — итог, поздно реагировать.
- Leading (опережающие): активация, вовлечённость — предсказывают lagging, можно влиять заранее. Хороший аналитик строит работу вокруг leading.
- Guardrail / контрметрики: то, что не должно сломаться, пока гоним основную метрику. Пример: гоним конверсию в платёж → следим, что не вырос отток / жалобы / не упала маржа. Обязательно упоминать guardrail в A/B и в дашбордах.
Словарик метрик (определения + формулы)
Активность / вовлечённость
- DAU / WAU / MAU — уникальные активные за день / неделю / месяц. Важно: что такое «активный»? (зашёл? совершил ключевое действие? — уточняй определение.)
- Sticky Factor = DAU / MAU — как часто месячные юзеры заходят (0–1; 0.2 ≈ заходит ~6 дней/мес). Метрика «прилипчивости».
- Frequency — частота действия на пользователя за период.
- Session length / depth — длина/глубина сессии.
Удержание / отток
- Retention (N-day, classic) — % новых, вернувшихся именно на день N.
- Rolling retention — % вернувшихся в день N или позже.
- Range retention — % активных в окне (напр., 7-й–14-й день).
- Churn rate — % ушедших за период. Для подписки: отписавшиеся / база на начало периода.
- Lifetime ≈ 1 / churn (при стабильном оттоке): месячный churn 5% → срок жизни ≈ 20 мес.
Деньги / экономика
- ARPU = выручка / все пользователи. ARPPU = выручка / платящие пользователи.
- Conversion Rate (CR) — доля прошедших шаг (visit→signup, trial→paid и т.п.).
- AOV (avg order value) — средний чек. GMV — оборот (для маркетплейсов).
- Take rate — % комиссии платформы от GMV.
- LTV (пожизненная ценность) ≈ ARPU × валовая_маржа / churn (с дисконтированием для длинных горизонтов). Считают от прибыли, не от выручки (от выручки — упрощение).
- CAC = расходы на привлечение / число привлечённых. Paid CAC (только платные каналы) vs blended CAC (все привлечённые, включая органику).
- LTV / CAC — здоровье привлечения, ориентир ≥ 3.
- Payback period — за сколько окупается CAC (= CAC / маржа за период).
- ROMI / ROI = (доход от вложений − вложения) / вложения.
Качество / удовлетворённость
- NPS = % промоутеров − % детракторов (по «порекомендуете ли»).
- CSAT — удовлетворённость (оценка после взаимодействия).
- CR в активацию — доля дошедших до «aha-момента».
Среднее vs медиана/квантили (часто спрашивают, см. также Мини-кейсы)
- Среднее искажается выбросами и скошенными распределениями (доходы, чеки, время).
- Для таких данных используй медиану / перцентили (p50, p90, p95).
- Пример: «средний чек» при нескольких огромных заказах врёт → медиана честнее; p95 времени загрузки важнее среднего для оценки худшего опыта.
На любую названную метрику будь готов ответить тройку: что это / зачем / как считать. Интервьюер часто переспрашивает: «ты назвал LTV — что это и как посчитаешь?».
A/B-тесты: полный пайплайн + подводные камни
На секции это один из ключевых блоков. Тебя проведут по цепочке: «как понять, что фича сработала → как организуешь тест → сколько стоит → что если нет времени → подводные камни». Цель — проговорить весь пайплайн вслух и знать про сетевой эффект, ratio-метрики + линеаризацию, выбор стат-критерия, принятие решения и альтернативы A/B.
Зачем нужен A/B (и почему он сильнее «просто посмотреть динамику»)
A/B изолирует причинный эффект изменения от всего остального (сезонность, маркетинг, тренды, другие релизы). «Посмотреть на динамику до/после» — это корреляция, её ломают внешние факторы. A/B = рандомизация → группы статистически идентичны → разницу можно приписать фиче.
Слабый ответ на «как понять, что фича сработала» = «посмотрю на динамику метрики». Сильный = «поставлю A/B: гипотеза, цель, MDE, дизайн, критерий, решение».
Пайплайн (проговаривай по этим шагам)
- 1Гипотезафальсифицируемая: изменение X → метрика M на ≥ Δ, потому что…
- 2Метрикицелевая (OEC) + guardrail + диагностические
- 3MDE и мощностьα=5%, мощность 80% → размер выборки
- 4Единица рандомизацииюзер; для сетевых эффектов — кластер/гео
- 5Дизайн и сплитA/A, проверка SRM
- 6Длительность≥ недельные циклы, без peeking
- 7Мониторингалерты на guardrail и аномалии
- 8Анализ и решениезначимость + практическая важность + guardrail + сегменты
- Гипотеза. Чёткая, фальсифицируемая: «изменение X повысит метрику M на ≥ Δ, потому что [механизм]». Пример: «новая онбординг-подсказка повысит trial→paid конверсию на 2 п.п., потому что снижает порог первого просмотра».
- Метрики:
- Целевая (OEC) — что хотим двигать (1 главная).
- Guardrail / контрметрики — что не должно сломаться (отток, жалобы, маржа, время загрузки).
- Proxy / диагностические — помогают понять почему (шаги воронки).
- MDE и мощность. Определи минимальный детектируемый эффект (MDE) — наименьшее изменение, которое экономически важно. Зафиксируй α (обычно 5%) и мощность 1−β (обычно 80%). Из них + базовый уровень и дисперсия → размер выборки и длительность.
- Единица рандомизации. Чаще пользователь (а не сессия/запрос), чтобы один человек не попадал в обе группы. Для сетевых эффектов — кластер/регион (см. ниже).
- Дизайн и сплит. Доли (50/50 или меньший трафик на риск), A/A-проверка, проверка SRM (sample ratio mismatch — фактическое деление совпадает с задуманным?).
- Длительность. Покрыть ≥ 1–2 недельных цикла (будни/выходные), дождаться набора выборки. Не подглядывать и не останавливать на первой значимости (peeking раздувает ошибку I рода).
- Мониторинг. Алерты на guardrail и на аномалии, дашборд теста. Не вмешиваться без серьёзной причины.
- Анализ и решение (см. раздел «Принятие решения»).
MDE, ошибки, мощность — коротко
- Ошибка I рода (α, false positive): сказали «эффект есть», а его нет. Контролируем уровнем значимости (5%).
- Ошибка II рода (β, false negative): эффект есть, а мы не заметили. Контролируем мощностью (1−β, обычно 80%).
- Чем меньше MDE / чем больше дисперсия → тем больше нужна выборка (растёт ~квадратично при уменьшении MDE).
- Множественные сравнения: много метрик/вариантов → растёт шанс ложного срабатывания → поправки (Bonferroni/Holm) или заранее одна OEC.
Выбор статистического критерия
| Тип метрики | Критерий |
|---|---|
| Конверсия / доля (бинарная) | z-тест для долей или χ² (хи-квадрат) |
| Среднее непрерывной (выручка/юзер, время) | t-тест (Уэлча); при больших n работает за счёт ЦПТ |
| Сильно скошенные / тяжёлые хвосты | бутстреп или Манн–Уитни (но он про сдвиг распределения, не про среднее — аккуратно) |
| Ratio-метрика (CTR, конверсия по событиям) | линеаризация / дельта-метод / бутстреп (см. ниже) |
| >2 вариантов | ANOVA + поправка на множественность |
Перед выбором всегда уточни: что за метрика и какая единица рандомизации.
Ratio-метрики и линеаризация (частый «подводный камень» — знай обязательно)
Проблема. Метрика вида сумма(числитель) / сумма(знаменатель), посчитанная по событиям (например, CTR = клики/показы), когда рандомизируем по пользователю, а считаем по показам. Тогда:
- единица рандомизации (юзер) ≠ единица наблюдения (показ);
- наивная дисперсия считает события независимыми → занижает дисперсию → ложная значимость.
Решение — линеаризация (это и есть «привести наблюдение к нужному виду» из кейса): для каждого пользователя считаем линеаризованную величину Lᵢ = numᵢ − r̄ · denᵢ, где r̄ — общий ratio (по контролю). Теперь Lᵢ — одна величина на пользователя, к её средним можно применить обычный t-тест. Среднее L пропорционально изменению ratio, а дисперсия посчитана корректно (по пользователям).
Альтернативы: дельта-метод (аналитическая дисперсия отношения) или bucket-бутстреп.
Формулировка вслух: «CTR — ratio-метрика, единица рандомизации (юзер) не совпадает с единицей наблюдения (показ), наивная дисперсия занижена. Применю линеаризацию: для каждого юзера L = клики − r·показы, и сравню средние L t-тестом. Либо дельта-метод/бутстреп».
Сетевой эффект (SUTVA нарушается) — обязательно упомянуть
Проблема. Лечение одной группы влияет на контроль: соцсети, мессенджеры, маркетплейсы, двусторонние рынки, реферальные/конкурентные за ресурс фичи. Тест/контроль «перетекают» → эффект смещён (часто недооценён).
Решения:
- Кластерная (групповая) рандомизация — делим не людей, а кластеры: города/регионы, соц-кластеры, сообщества. Внутри кластера все в одной группе → утечки нет.
- Гео-эксперименты — рандомизация по регионам (когда юзер-уровень невозможен).
- Switchback — переключаем фичу во времени по локации (для логистики/такси/доставки, где предложение ограничено: цены, подача).
- Ego-network / граф-кластеризация — для соцграфов.
Минус кластерных дизайнов — меньше «единиц» → нужна большая мощность/дольше тест.
Снижение дисперсии (повышение чувствительности)
- CUPED — используем ковариату из до-экспериментального периода (например, прошлую активность юзера), чтобы убрать «фоновую» дисперсию → тот же эффект ловим меньшей выборкой или быстрее. Полезно, когда выборки впритык.
- Стратификация, триминг выбросов, выбор более чувствительной метрики.
Принятие решения по тесту
Заранее (до старта) зафиксируй критерий успеха. На выходе проверь:
- Стат-значимость: p < α (или доверительный интервал эффекта не накрывает 0).
- Практическая значимость: эффект ≥ MDE и окупает стоимость раскатки/поддержки. Бывает «значимо, но мизерно» → не катить.
- Guardrail-метрики не сломаны (отток, жалобы, маржа, скорость).
- Sanity-чеки: прошла ли A/A, нет ли SRM, ровные ли группы.
- Сегменты: эффект однородный или держится только на сегменте? (может, катить точечно).
- Если не значимо — это не «эффекта нет», а «не обнаружили». Либо не катим, либо продлеваем (если был недонабор мощности), но не подгоняем.
Опасность peeking: остановка «как только стало значимо» раздувает ошибку I рода. Решение — фиксированный горизонт или методы последовательного анализа (sequential / always-valid).
Альтернативы A/B (когда рандомизация невозможна / «нет времени»)
Если торопят катить без A/B — сначала отстаивай A/B (риск выкатить вредное; знание масштабируется на другие продукты; сдвиг релиза на неделю обычно дешевле ошибки). Если всё же нельзя — предложи квазиэксперимент:
- Diff-in-Diff (разность разностей) — сравниваем изменение метрики у затронутой группы/региона vs незатронутой за тот же период. Убирает общий тренд.
- Синтетический контроль — строим «двойника» затронутого региона как взвешенную смесь других регионов, совпадающую в до-периоде, и сравниваем после.
- Регионы-близнецы / гео-холдаут — заранее держим контрольный регион без изменения.
- Causal inference: матчинг, регрессия с контролями, инструментальные переменные.
- Самое слабое — до/после (pre-post): путает эффект с сезонностью/трендом, только как грубая прикидка.
Когда A/B вообще не нужен
- Стадия бизнеса: на раннем продукте трафика не хватит на мощность — быстрее решать качественно/логикой; A/B окупается, когда есть масштаб.
- Очевидные / обязательные изменения: баг-фиксы, требования закона, безопасность.
- Стоимость теста > ценности ответа.
- Стратегические/необратимые решения, которые не сводятся к метрике одного экрана.
Стоимость теста
- Прямые: разработка эксперимента, аналитика, инфраструктура.
- Альтернативные (opportunity cost): держим часть юзеров на старой версии → недополученный эффект, если фича хорошая; или задержка релиза.
- Но ценность теста = избегаем выкатки вредного + получаем знание, масштабируемое на соседние продукты. Поэтому «тест дороже разработки» — не повод отказаться, если фича рискованная или знание переиспользуемо.
Мини-FAQ для стресс-вопросов
- «Тест дороже самой фичи — проводить?» → Да, если фича рискованная/масштабируемая: цена ошибки и переиспользуемость знания перебивают стоимость теста. Обоснуй цифрами.
- «Нет времени, катим без A/B» → Назову риски, предложу alternative (diff-in-diff/гео-холдаут), но буду настаивать на хотя бы частичной раскатке с холдаутом.
- «Всегда ли нужен A/B при раскатке?» → Нет, зависит от стадии, обратимости и стоимости.
- «Метрика — это CTR, как сравнишь?» → Это ratio → линеаризация/дельта-метод, t-тест по пользователям.
- «Это соцфича / маркетплейс» → сетевой эффект → кластерная/гео/switchback рандомизация.
Маркетинг-аналитика — шпаргалка
На секции есть кейс про оценку рекламы/кампании и решение «продлевать или нет». Главные идеи: CAC < LTV, дисконтирование, каннибализация / инкрементальность, и как оценивать кампанию без прометки (гео-холдаут, синтетический контроль, промокоды).
Базовый каркас решения «оставлять ли привлечение/рекламу»
Главный критерий: CAC < LTV привлечённых клиентов.
- CAC (cost of acquisition) = расходы на канал / число привлечённых.
- LTV считаем от прибыли (маржи), не от выручки; для длинного горизонта — с дисконтированием (будущие деньги дешевле сегодняшних).
- Здоровье: LTV/CAC ≥ 3, payback (срок окупаемости) укладывается в целевой.
- Альтернатива/дополнение: ROMI/ROAS, сравнение с бенчмарками рынка.
Слабый ответ = «посмотрю динамику метрик в регионе». Сильный = «сравню CAC с LTV именно привлечённых клиентов, с учётом каннибализации».
CAC > LTV — это всегда плохо?
Нет. Зависит от стадии бизнеса:
- Ранний/ростовой этап: иногда осознанно привлекают «в минус», рассчитывая на будущий LTV, рост доли рынка, экосистемные эффекты, удешевление CAC с масштабом.
- Зрелый этап: привлечение обязано окупаться, иначе режем канал.
- Плохой ответ — «привлечение всегда должно быть в плюс прямо сейчас».
Каннибализация и инкрементальность (ключевая идея кейса)
Вопрос интервьюера: «А что если по промокоду / рекламе пришли те, кто и так бы пришёл?» Это и есть проблема каннибализации: реклама/промо «забирает себе» органических пользователей, которые конвертировались бы бесплатно.
- Атрибуция ≠ инкрементальность. Атрибуция говорит «этому каналу приписалась конверсия». Инкрементальность — «эта конверсия не случилась бы без канала». Платить стоит только за инкрементальные конверсии.
- Типовые примеры каннибализации: реклама по брендовому запросу (человек и так искал тебя); промокод, утёкший на купонники; промо на существующих/возвращающихся клиентов.
Как измерить инкрементальность (отделить «новых» от органики):
- Холдаут / гео-эксперимент: часть аудитории/регионов не показываем рекламу, сравниваем долю/число новичков с теми, кому показывали. Разница = инкремент.
- Diff-in-diff / синтетический контроль по регионам (см. ниже).
- Ghost ads / PSA-тест: контролю показывают «пустую» рекламу — корректное сравнение.
- Для промокода: сравнить долю по-настоящему новых пользователей среди активировавших код vs базовую долю новичков; разнести код по сегментам (новый/действующий клиент).
Оценка кампании БЕЗ прометки трафика (офлайн: баннеры и т.п.)
Кейс: «месяц висели баннеры, прометки нет, продлевать контракт?» Идём по возрастанию качества ответа:
- (слабо) Посмотреть динамику метрик в регионе размещения — но это путает эффект с сезонностью/трендами.
- (хорошо) Регионы-близнецы / синтетический контроль: сравнить регион с баннерами с похожими регионами без них (или с синтетическим двойником) → оценить прирост.
- (хорошо) Brand lift / рост брендовых запросов, прямых заходов, органики в регионе.
- (лучше) Свести к CAC < LTV привлечённых (инкрементальных) клиентов.
Если был промокод: считаем, сколько активировали код → но сразу проверяем каннибализацию (см. выше): сколько из них реально новые, а не нашедшие код в интернете.
Как улучшить замер «ещё на старте» (вопрос про проактивность)
Если можешь вмешаться до запуска — спроектируй кампанию так, чтобы выводы были чистыми:
- Заложить контроль: гео-холдаут (контрольный регион) или рандомизированный холдаут аудитории заранее.
- Прометка трафика: UTM-метки, отдельные лендинги/номера телефонов, уникальные промокоды на канал (и на гео), чтобы атрибуция была однозначной.
- Замерить baseline до старта (база сравнения) и зафиксировать критерий успеха заранее (целевой CAC/ROMI, MDE).
- Продумать, как отделить инкремент от органики (план измерения каннибализации).
- Согласовать с аналитикой набор событий/логирование до запуска.
Атрибуция (если спросят про каналы)
- Модели: last-click (вся заслуга последнему касанию), first-click, линейная, time-decay, position-based, data-driven.
- Проблема: ни одна модель не отражает причинность; разные модели дают разные выводы. Поэтому для решений по бюджету надёжнее инкрементальные эксперименты (холдауты), а не только модель атрибуции.
Чек-лист для маркетингового кейса (проговори по нему)
- Какая цель и стадия бизнеса? (от этого зависит, допустим ли минус по CAC)
- Критерий = CAC < LTV привлечённых; LTV от прибыли, с дисконтированием.
- Каннибализация: сколько клиентов инкрементальные, а не органика?
- Как измерить инкремент без прометки: гео-холдаут / синтетический контроль / brand lift.
- Что изменил бы на старте: холдаут, UTM, уникальные промокоды, baseline, критерий успеха.
- Решение: продлевать, если инкрементальный CAC < LTV и канал укладывается в payback.
Аналитические мини-кейсы (из банка задач)
Короткие задачи, которые вплетают в секцию. По каждой — формулировка, правильная логика и что хочет услышать интервьюер.
1. Корреляция ≠ причинность
Кейс. «Пользователи, подключённые к программе лояльности (ПЛ), на 30% чаще покупают. Сейчас ПЛ у половины. Что будет, если автоматически подключить всех?»
Правильная логика:
- Это корреляция, а не доказанная причинность. Возможны минимум два объяснения:
- Третья переменная: изначально мотивированные/лояльные сами подключают ПЛ и больше покупают. Тогда автоподключение остальных не даст +30%.
- Есть причинность: сама ПЛ повышает частоту покупок. Тогда эффект будет (но вряд ли ровно +30%).
- Вывод: точно сказать нельзя. Нужно проверить причинность — A/B-тест (рандомно подключить часть и сравнить).
Доп. вопрос «как понять, что первично?» → только эксперимент: рандомизированное подключение ПЛ vs контроль. Наблюдательные данные причинность не докажут.
Шаблон ответа на любой «X связан с Y, давайте сделаем больше X»: «это корреляция; возможна обратная причинность или общий фактор; проверим A/B».
2. Сравнение воронок и статзначимость
Кейс. «Две воронки: веб и мобильное приложение. Можно ли считать конверсии в покупку одинаковыми?»
Правильная логика:
- Нельзя сравнивать «на глаз» — разница может быть шумом. Нужна статистическая значимость: проверяем гипотезу о равенстве.
- На сколько должны различаться, чтобы считать разными? → зависит от объёма данных и дисперсии; формализуется через стат-критерий и доверительный интервал, а не «на глаз».
Какой критерий:
- Разница конверсий (долей) → z-тест для долей или χ² (хи-квадрат).
- Разница средних (напр., частота покупок 3.7 в вебе vs 4.3 в моб.) → t-тест (при тяжёлых хвостах — бутстреп / Манн–Уитни).
Подводные камни воронок (🔼 до Middle+):
- Сегменты разные: в вебе и в приложении разная аудитория → конверсии не сопоставимы напрямую (confounding). Сравнивать сопоставимые сегменты.
- Конверсию часто считают неправильно: путают знаменатели (от визитов? от уникальных юзеров? от дошедших до шага?). Сначала договорись об определении.
3. Падение ключевой метрики на 30% — алгоритм по 4 блокам
Кейс. «Ключевая метрика за вчера резко упала на 30% к среднему. Что делаешь?»
Не гадай хаотично — иди по 4 блокам (называй причины из каждого, это и есть критерий «++»):
Блок 1 — Смотрим на данные (не сломалось ли измерение).
- Сезонность, праздники, день недели, погрешность (посмотреть период подлиннее).
- Счётчики/логирование/хранилище/отчёт сломались, недогруз данных.
- Разложить на числитель и знаменатель (абсолюты заявок и визитов) — из-за чего именно падение.
Блок 2 — Локализуем сегмент.
- Конкретный источник трафика просел.
- Конкретный браузер / устройство / ОС / регион.
- Конкретный шаг воронки (например, все отваливаются после ввода телефона).
Блок 3 — Работоспособность продукта.
- Пройти флоу самому, поискать баги.
- Были ли релизы / изменения страницы / параллельные A/B.
- Изменения в самом продукте (поменяли ставку/условия/цену).
- Не перетёк ли трафик на другую страницу/продукт.
Блок 4 — Внешние факторы.
- Конкуренты что-то запустили (акция, демпинг).
- Макрособытия (закон, пандемия, праздник).
- Новости о компании (репутационный фон, скандал).
1Данные / измерение
- сезонность, праздники, день недели
- сломанное логирование, недогруз
- числитель vs знаменатель
2Локализация сегмента
- источник трафика
- браузер / устройство / регион
- конкретный шаг воронки
3Продукт
- релизы, изменения, параллельные A/B
- баги (пройти флоу самому)
- изменения условий / цены
4Внешние факторы
- конкуренты (акция, демпинг)
- макро: закон, праздник
- новости о компании
Структура «данные → сегмент → продукт → внешнее» = от самого вероятного/дешёвого к внешнему. Сначала исключи поломку измерения, потом ищи реальную причину.
Доп. вопрос «конкуренты снизили цены, как вернуть конверсию?» → не «тоже снизим цены» рефлекторно. Сначала: что с P&L / маржой, можем ли позволить демпинг; как долго идёт акция конкурента; может, полезно, что отсеяли промо-сикеров и остались лояльные; есть ли неценовые рычаги (контент, UX, бандлы). Решение — от юнит-экономики, а не «гонка вниз».
4. Среднее vs медиана / квантили
- Среднее искажается выбросами и скошенными распределениями (доходы, чеки, время на сайте, время загрузки).
- Для таких — медиана (p50) и перцентили (p90/p95).
- Примеры: «средний чек» при нескольких гигантских заказах врёт → медиана честнее; для скорости/латентности важен p95 (худший опыт), а не среднее.
- Когда среднее ок: симметричные распределения без тяжёлых хвостов; когда нужна аддитивность (суммарная выручка = среднее × кол-во).
- Хороший ответ — привести примеры под обе метрики и сказать, когда какую.
5. Визуализация: плохо → хорошо
Типовые «плохие» графики (узнавай и предлагай замену):
- Две столбчатые серии для динамики конверсии — самой метрики (конверсии) на графике нет, её надо досчитывать в уме. → Заменить на одну посчитанную конверсию линией (динамика) или столбиком; добавить читаемые даты и подписи.
- Круговая диаграмма для сравнения структуры период-к-периоду или между объектами — плохо считывается. → Stacked bar / линии / таблица с долями.
- Голые абсолюты вместо rate — для rate-метрик показывать проценты (ReturnRate и т.п.).
Что делает график хорошим:
- Выбран тип под задачу: динамика → линия; сравнение → бары; структура → stacked; распределение → гистограмма/боксплот; взаимосвязь → scatter; текущее значение → одна цифра/гейдж.
- Цветом выделено главное, есть заголовок и легенда, подсвечено выполнение цели, читаемый формат чисел и дат.
- На дашборде ≥5 идей по улучшению ценятся (см. Приоритизация и дашборды).
Книги для ссылки (если спросят, откуда): Джин Желязны «Говори на языке диаграмм»; Cole Nussbaumer Knaflic «Storytelling with Data».
Приоритизация, генерация идей и дашборды
Часть A. От вызовов бизнеса к приоритетам
Шаг 1. Найти вызовы (не баги, а зоны роста)
Интервьюер: «Какие вызовы стоят перед компанией?»
- Слабо: минорные баги или «увеличить прибыль» (слишком общо), идеи без привязки к цели.
- Хорошо: глобальные проблемы (рост прибыли, захват рынка) + продуктовая зона роста.
- Лучше: назвал главные проблемы, объяснил, как они мешают расти, и выбрал North Star, относительно которой будешь приоритизировать.
Шаг 2. Сгенерировать идеи (с механизмом и эффектом)
Для каждой идеи: механизм (как она двигает метрику) + оценка эффекта на ключевую метрику. Не просто «давайте сделаем X», а «X → влияет на драйвер Y → +Z к North Star».
Каркас «где искать идеи» (он же — ответ на кейс «увеличить прибыль в N раз»):
- Каналы привлечения (новые источники, дешевле CAC).
- Рынок (конкуренты, новые сегменты/регионы, ценообразование).
- Сегменты клиентов (кому ещё продать, кого удержать).
- Unit-экономика (поднять ARPU, маржу, снизить отток, апселл/кросс-селл).
- CJM и воронки (где теряем, что чинить).
Грейды на кейсе «прибыль ×2»: Junior — 2 направления; Middle — 4; Senior — 4+ с глубиной. Плохо — «переманим весь офлайн / разошлём промокоды / редизайн сайта» (локально, без структуры).
Шаг 3. Приоритизировать (фреймворки + деньги)
Интервьюер обычно даёт 3 идеи: перспективная + конкурирующая (новый партнёр / регион / ранжирование) + заведомо ненужная (редизайн малопосещаемого раздела / игра в B2B / тёмная тема). Задача — расставить приоритеты и выкинуть лишнее.
Как отвечать:
- Оцени эффект в деньгах / в ключевой метрике для каждой идеи.
- Оцени стоимость разработки (можно спросить или прикинуть).
- Сопоставь эффект и стоимость → приоритет. Заведомо ненужное — выкинуть из бэклога (или явно сказать «не берём, потому что эффект не оправдывает затрат»).
Фреймворки приоритизации:
- RICE = (Reach × Impact × Confidence) / Effort. Reach — сколько юзеров за период; Impact — сила эффекта; Confidence — уверенность (%); Effort — трудозатраты. Главный, называй его.
- ICE = Impact × Confidence × Ease (проще, грубее).
- Value / Effort матрица (2×2): быстрые победы vs большие проекты vs не делать.
- (доп.) Kano (must-be / performance / delighters), MoSCoW (Must/Should/Could/Won't).
Слабо — ранжировать «по ощущениям / по лёгкости разработки». Хорошо — принцип + фреймворк
- оценка эффекта. Лучше — довёл до влияния на North Star и учёл стоимость (большой эффект, но дорогая разработка ≠ автоматически первый приоритет).
Шаг 4. Спор с продактом (челлендж — это плюс)
Продакт настаивает на другой фиче с аргументами. Как парировать каждый:
- «Это маркет-нормал» → «А релевантно ли это нашей сфере и стадии? Норма у кого, и почему это решает нашу проблему?»
- «Это стратегическое решение» → «В какую конкретную цель стратегии оно бьёт? Как измерим?»
- «На прошлом месте это дало +50%» → «Тот продукт/аудитория сопоставимы с нашими? Что там было драйвером? Перенесётся ли механизм сюда?»
- Принцип: меняю приоритет только под весомые, проверяемые аргументы, привязанные к целям бизнеса. Расплывчатые вбросы — копаю вглубь, не поддаюсь.
Это прямой тест на leadership / ассертивность. Молча поднять приоритет = провал; войти в спор и докопаться до обоснования = высокий балл.
Часть B. Дашборды и отчётность
Флоу построения дашборда (проговаривай по шагам)
- Цель и заказчик. Зачем дашборд, кто основной пользователь, какие решения по нему
принимают, на какие вопросы отвечает. Определи категорию:
- управленческий/стратегический (C-level, верхнеуровневые KPI),
- аналитический (разрезы, поиск причин),
- операционный (мониторинг в реальном времени).
- Сбор требований от заказчиков.
- Макет (прототип) → согласование.
- Разработка.
- Документация (что за метрики, как считаются, источники).
- Отслеживание: как живёт — рассылка на почту, база отчётов, разбор на регулярных встречах, алерты.
Полнота + сторителлинг (структура борда)
- Покрой метрики, отвечающие на вопросы борда (не больше и не меньше).
- Раскрывай последовательно, от общего к частному. Пример: цель «число клиентов» → график MAU → разложить на новых/старых (или когорты) → новых разложить по каналам.
- Следи за вместимостью — не перегружай.
Визуализация
- Тип под задачу (см. Мини-кейсы): динамика → линия; сравнение → бары; структура → stacked; распределение → гистограмма; взаимосвязь → scatter; статус → одна цифра/гейдж.
- Желательно что-то кроме «график + цифра»: подсветка целей, проценты для rate-метрик, читаемые подписи/заголовки.
Челлендж задач по дашборду (на это смотрят отдельно!)
- «Добавь все возможные фильтры/разрезы (соцдем, регион, чек…)» → спроси «зачем». Не пихай всё в верхнеуровневый борд для C-level. Расплывчатое «чтобы искать аномалии» — слабое обоснование.
- Замечай дубликаты разрезов (возраст и возрастная группа — схлопнуть в один).
- Предложи полезную альтернативу: вместо кучи разрезов — фильтр по видам бизнеса; вместо тяжёлого борда — алерты/рассылка на аномалии.
- «А нужен ли вообще дашборд?» — иногда достаточно разовой выгрузки или алерта. Сильный кандидат задаёт этот вопрос сам.
- «А если в ДВХ этих разрезов нет?» → не «тогда не получится / ждём». Проактивно: сам стану заказчиком для команды ДВХ, ещё раз оценю нужность параметра.
Работа с возражениями («отчёт — хрень, ничего не понятно»)
- Не защищайся и не переделывай вслепую. Уточни: какие решения не получается принять, чего не хватает, кто и как пользуется. Вернись к цели борда и пересобери под реальный вопрос заказчика. Это «продажа» отчёта + работа с заказчиком.
Часть C. Работа с воронкой (что улучшать первым)
Кейс. «Сквозная воронка: 231к посетителей → 889 покупок. Что улучшать первым?»
Правильная логика (не лечи рефлекторно один шаг!):
- Сначала уточни этапы воронки и бизнес (что за продукт, какие шаги, почему такие).
- Смотри не только на «самый большой провал в %», но и на экономику: что даст больше денег — поднять конверсию узкого шага или работать по всей воронке.
- Учитывай стоимость улучшения каждого шага (must have для обсуждения): дешёвый шаг с меньшим эффектом может быть выгоднее дорогого с большим.
- Прикинь эффект на выручку при сдвиге конкретного шага vs равномерно.
Слабый ответ — сразу «давайте чинить шаг X». Сильный — уточняющие вопросы про бизнес и воронку + оценка через деньги и стоимость реализации.
Тренажёр: карточки для самопроверки
Как пользоваться: читай вопрос → отвечай ВСЛУХ (полным рассуждением, не одним словом) → жми «Показать ответ» и сверяйся. Эталон — это ориентир, не дословный текст: если твой ответ покрыл ключевые пункты — жми «✅ Знаю», иначе «🔁 Повторить». Прогресс сохраняется, можно фильтровать по темам и включить «только невыученные».
📋 Все 54 карточки одним списком
A. Компания и бизнес
A1. Какой продукт выберешь для кейса и почему именно его?
Эталон
Не Т-Банк и не из резюме; тот, которым реально пользуюсь (уверенность + детали). Готов основной + запасной. Назвать модель монетизации одной фразой.
A2. Расскажи бизнес-модель продукта за 60 секунд.
Эталон
Что это / для кого / какую проблему решает / как зарабатывает (подписка / транзакции / комиссия / реклама / freemium) / кто платит и за что. Структурно, без воды.
A3. Назови потоки доходов и расходов.
Эталон
Доходы: основной + 2–3 дополнительных. Расходы: 3–5 крупных статей. Для подписки: доход — подписка + TVOD + реклама; расходы — контент, инфраструктура, привлечение, R&D, эквайринг.
A4. На каком этапе жизненного цикла продукт и как это меняет фокус аналитики?
Эталон
Выход / рост / зрелость / спад. Рост → привлечение и активация; зрелость → удержание, ARPU, юнит-экономика. Обосновать признаками этапа.
A5. Кто конкуренты? Дай прямых и косвенных.
Эталон
Прямые — та же потребность, тот же способ. Косвенные — та же потребность, другой способ (плюс «бесплатные» альтернативы, напр. пиратство/YouTube для видео). Назвать УТП на их фоне.
B. Метрики и фреймворки
B1. Тебя просят «накидать метрики продукта». С чего начнёшь?
Эталон
Не список! Идём: цель/этап → бизнес-модель → основные метрики → метрики, на которые влияем (дерево) → цели по метрикам. Структурно + фреймворк + разные уровни метрик.
B2. Что делает метрику хорошей?
Эталон
5 критериев: связь с бизнес-целью; actionability (знаем, что делать при изменении); измеримость; чувствительность (видна за шумом); декомпозируемость. Плюс: относительные/ на пользователя лучше vanity-абсолютов.
B3. Менеджер предлагает «среднее время на сайте» как ключевую метрику. Хорошо ли?
Эталон
Зависит от целей продукта. Для TikTok/дейтинга — отлично; для Госуслуг — наоборот, хотим быстрее. Проверить по 5 критериям. Метрика не хороша/плоха сама по себе.
B4. Что такое North Star и как выбрать?
Эталон
Метрика ценности для юзера, ведущая к деньгам (leading, не сами деньги). Назвать бизнесовую (деньги/клиенты) + продуктовую (вовлечённость/удержание) и связь. Пример: время прослушивания, ночи бронирований, успешные заказы.
B5. Назови фреймворк AARRR.
Эталон
Acquisition, Activation, Retention, Revenue, Referral. Воронка жизненного цикла, дефолтный каркас.
B6. Что такое Sticky Factor?
Эталон
DAU/MAU — частота возвращения месячных юзеров (0–1). 0.2 ≈ заходит ~6 дней в месяц.
B7. Чем ARPU отличается от ARPPU?
Эталон
ARPU = выручка / всех пользователей; ARPPU = выручка / платящих. ARPPU всегда ≥ ARPU.
B8. Что такое LTV и как считаешь?
Эталон
Пожизненная ценность клиента. ≈ ARPU × валовая_маржа / churn (срок жизни ≈ 1/churn), для длинного горизонта — с дисконтированием. Считать от прибыли, не от выручки.
B9. Виды retention?
Эталон
Classic N-day (вернулся именно на день N), rolling (на день N или позже), range (активен в окне). Churn = % ушедших за период; lifetime ≈ 1/churn.
B10. Метрики продукта vs метрики роста?
Эталон
Продуктовые (retention, engagement, активация — «насколько хорош продукт») vs ростовые (привлечение, виральность, конверсия в платёж — «как масштабируемся»). Хорошо разделять явно.
B11. Что такое leading/lagging и guardrail-метрики?
Эталон
Lagging — итоговые (выручка, отток), поздно реагировать. Leading — опережающие (активация), предсказывают и управляемы. Guardrail — что не должно сломаться, пока гоним основную метрику.
C. A/B-тесты
C1. «Как понять, что фича сработала?»
Эталон
A/B: гипотеза → цель/OEC → MDE → дизайн и рандомизация → стат-критерий → решение. Не «посмотрю динамику» (это корреляция, ломается внешними факторами).
C2. Зачем нужна рандомизация / чем A/B лучше «до-после»?
Эталон
Рандомизация делает группы идентичными → разницу можно приписать фиче (причинность). «До-после» путает эффект с сезонностью/трендом/другими релизами.
C3. Что такое MDE и от чего зависит выборка?
Эталон
MDE — минимальный экономически важный эффект. Выборка растёт при меньшем MDE (~квадратично), большей дисперсии, заданных α (5%) и мощности (80%).
C4. Ошибки I и II рода?
Эталон
I (α): сказали «эффект есть», его нет (FP). II (β): эффект есть, не заметили (FN). Контроль: α — уровнем значимости, II — мощностью.
C5. Какой стат-критерий для конверсии? Для среднего?
Эталон
Конверсия/доля → z-тест долей или χ². Среднее → t-тест (Уэлча); тяжёлые хвосты → бутстреп/ Манн–Уитни.
C6. Метрика — CTR (ratio). В чём проблема и как сравнить?
Эталон
Ratio: единица рандомизации (юзер) ≠ единица наблюдения (показ) → наивная дисперсия занижена → ложная значимость. Линеаризация: L=num−r·den на юзера, t-тест по L. Либо дельта-метод/бутстреп.
C7. Что такое линеаризация ratio-метрики?
Эталон
Преобразование ratio в одну величину на пользователя L_i = num_i − r̄·den_i (r̄ — общий ratio). Среднее L пропорционально изменению ratio, дисперсия корректна → обычный t-тест.
C8. Что такое сетевой эффект в A/B и как с ним бороться?
Эталон
Лечение перетекает на контроль (соцсети, маркетплейсы, двусторонние рынки) → SUTVA нарушена, эффект смещён. Решение: кластерная/гео-рандомизация, switchback, граф-кластеризация.
C9. Что такое SRM и peeking?
Эталон
SRM — фактическое деление групп не совпадает с задуманным (баг сплита) → тест невалиден. Peeking — остановка на первой значимости раздувает ошибку I рода; нужен фикс-горизонт или sequential-методы.
C10. Как принимаешь решение по тесту?
Эталон
Стат-значимость (p<α / CI не накрывает 0) + практическая значимость (≥MDE, окупает раскатку) + guardrail целы + sanity (A/A, SRM) + проверка по сегментам. «Не значимо» ≠ «эффекта нет».
C11. Нет времени на A/B — что делать?
Эталон
Сначала отстаивать A/B (риск вредной фичи, знание масштабируемо). Если нельзя — diff-in-diff, синтетический контроль, гео-холдаут; до/после — только грубо. Настоять хотя бы на холдауте.
C12. Тест дороже разработки фичи. Проводить?
Эталон
Да, если фича рискованная или знание переиспользуемо на другие продукты: цена ошибки + масштабируемость перебивают стоимость теста. Обосновать цифрами, а не «дорого/не дорого».
C13. Всегда ли нужен A/B при раскатке?
Эталон
Нет. Зависит от стадии (на раннем продукте нет мощности), обратимости (баг-фиксы, требования закона), стоимости теста vs ценности ответа.
C14. Что такое CUPED?
Эталон
Снижение дисперсии через ковариату из до-периода (прошлая активность юзера) → выше чувствительность, меньше нужна выборка/время.
D. Маркетинг
D1. Оставлять ли платное привлечение — по какому критерию?
Эталон
CAC < LTV привлечённых; LTV от прибыли, с дисконтированием; LTV/CAC≥3; payback в норме. Учесть каннибализацию. Не «динамика метрик».
D2. CAC > LTV — всегда плохо?
Эталон
Нет. Зависит от стадии: на росте допустим минус ради доли/будущего LTV/удешевления CAC. На зрелости — должно окупаться.
D3. Что такое каннибализация в привлечении?
Эталон
Реклама/промо «забирает» органику, которая пришла бы бесплатно. Платить надо за инкрементальные конверсии, а не за атрибутированные.
D4. Как понять, что по промокоду пришли реально новые, а не органика?
Эталон
Холдаут/гео-эксперимент (часть без промо), сравнить долю по-настоящему новых; разнести код по сегментам новый/действующий; brand lift. Diff-in-diff / синтетический контроль.
D5. Оценить офлайн-баннеры без прометки трафика?
Эталон
Регионы-близнецы / синтетический контроль (регион с баннерами vs похожие без), рост брендовых запросов/прямых заходов; свести к CAC<LTV инкрементальных. Динамика «в лоб» — слабо.
D6. Что изменил бы на старте кампании для чистого замера?
Эталон
Заложить контроль (гео-холдаут/рандом-холдаут), прометка (UTM, уникальные промокоды на канал/ гео), baseline до старта, критерий успеха (целевой CAC/ROMI, MDE) заранее.
E. Мини-кейсы аналитики
E1. «У кого ПЛ — на 30% больше покупок. Подключить всех?»
Эталон
Это корреляция. Возможна третья переменная (мотивированные сами берут ПЛ и больше покупают) или причинность. Точно нельзя — нужен A/B. Авто-подключение не гарантирует +30%.
E2. Две воронки (веб vs приложение) — конверсии одинаковы?
Эталон
Нужна статзначимость, не «на глаз». Доли → z-тест/χ²; средние (частота) → t-тест. Учесть, что аудитории разные (confounding) и определение конверсии.
E3. Ключевая метрика упала на 30% за день. Действия?
Эталон
4 блока: (1) данные — сезонность, сломанное логирование, числитель/знаменатель; (2) сегмент — источник/устройство/регион/шаг воронки; (3) продукт — релизы, баги, изменения, A/B; (4) внешнее — конкуренты, макро, новости. Назвать причины из каждого.
E4. Конкуренты снизили цены, конверсия упала. Вернуть?
Эталон
Не рефлекторно демпинговать. Смотреть P&L/маржу, длительность акции конкурента, плюс отсева промо-сикеров, неценовые рычаги. Решение от юнит-экономики.
E5. Когда среднее, когда медиана/квантили?
Эталон
Скошенные/с выбросами (чеки, доходы, время) → медиана/перцентили; p95 для латентности. Среднее — симметричные данные, нужна аддитивность. Привести примеры под обе.
E6. Что не так с двумя столбцами для динамики конверсии?
Эталон
Самой конверсии на графике нет — считается в уме. Заменить на одну посчитанную конверсию линией; читаемые даты/подписи, проценты для rate.
E7. Почему круговая диаграмма плохо для сравнения структуры?
Эталон
Доли на пай-чарте плохо сравниваются (особенно период-к-периоду). Лучше stacked bar / линии / таблица с %.
F. Приоритизация и дашборды
F1. Как приоритизировать 3 фичи, одна из которых явно ненужная?
Эталон
Оценить эффект в деньгах/метрике + стоимость разработки. RICE/ICE. Заведомо ненужное — выкинуть. Не «по ощущениям / по лёгкости».
F2. Что такое RICE?
Эталон
(Reach × Impact × Confidence) / Effort. Reach — охват, Impact — сила, Confidence — уверенность %, Effort — трудозатраты.
F3. Продакт: «эта фича дала +50% на прошлом месте». Ответ?
Эталон
Сопоставимы ли продукт/аудитория? Что было драйвером? Перенесётся ли механизм? Меняю приоритет только под весомый, проверяемый аргумент, привязанный к нашим целям.
F4. Просят добавить все фильтры/разрезы в дашборд C-level. Действия?
Эталон
Спросить «зачем». Не пихать всё в верхнеуровневый борд. Заметить дубли (возраст vs возрастная группа). Предложить альтернативу (фильтр по видам бизнеса / алерты).
F5. Флоу построения дашборда?
Эталон
Цель и заказчик (категория: управленческий/аналитический/операционный) → требования → макет → разработка → документация → отслеживание (рассылка/встречи/алерты).
F6. «А нужен ли вообще дашборд?»
Эталон
Иногда хватит разовой выгрузки или алерта на аномалию. Сильно — задать этот вопрос самому до постройки.
F7. Цель — DAU 4 млн против текущих 2 млн за квартал. Достижимо?
Эталон
Зачелленджить: есть ли основания для 2× за квартал? Зачем такая цель? Уточнить, по тренду проверить, предложить адекватную/обоснованную альтернативу. Не «да/нет» наугад.
F8. «Увеличить прибыль ×2» — как структурируешь?
Эталон
Каналы привлечения, рынок/конкуренты, сегменты, unit-экономика (ARPU/маржа/отток), CJM/воронки. Middle — ≥4 направления с механизмом. Не локальное «разошлём промокоды».
G. Механика интервью
G1. Первый ход на почти любой кейс?
Эталон
Уточнить цель/контекст/этап и ключевую метрику. Проговорить предположения. Задать структуру ответа, потом раскрывать.
G2. Что повышает балл больше всего?
Эталон
Самостоятельность (без подсказок), структура, челлендж странных вводных, оценка в деньгах, связь с бизнес-целями.
G3. Что точно роняет балл?
Эталон
Молча исполнять странную задачу; хаотичный список без структуры; «посмотрю динамику» вместо A/B; путать корреляцию с причинностью; vanity-метрики.
Тренажёр: сценарий мок-интервью
Имитация секции продуктовой аналитики (60 мин). Работает в двух режимах:
- С напарником (рекомендуется): напарнику не нужно разбираться в теме. Он зачитывает строки «🎤 Интервьюер», слушает ответ, задаёт стоп-фоллоуапы и сверяет ответ, раскрыв спойлер «Критерии оценки». Ставит ✅/❗️/⛔.
- Соло: читаешь реплику, отвечаешь вслух (лучше на диктофон), и только потом раскрываешь спойлер с критериями и проверяешь себя. Не подглядывай в спойлер до ответа.
Инструкция напарнику (прочитай первым)
- Читай вслух только строки, помеченные 🎤 Интервьюер. Остальное — для тебя, не зачитывай.
- После вопроса молчи и слушай полный ответ. Не подсказывай. Пауза кандидата — это нормально.
- Когда кандидат закончил — задай 1–2 «стоп-фоллоуапа» (они специально провокационные).
- Раскрой спойлер «Критерии оценки» и сверь ответ. Поставь оценку шага: ✅ сам / ❗️ с подсказкой / ⛔ не смог.
- В начале скажи кандидату: «Выбери продукт — не Т-Банк и не из твоего резюме» и подставляй
его название вместо
[ПРОДУКТ]по ходу. - Не торопи. Если вязнет на шаге > 5–6 мин — переходи дальше, отметь ❗️.
Засеки время. Ориентир: Прогон 1 ≈ 40–45 мин, Прогон 2 ≈ 10 мин, Прогон 3 ≈ 10 мин.
ПРОГОН 1 — Полный связный кейс (основной)
Шаг 0. Выбор продукта
🎤 Интервьюер: «Давай разберём какой-нибудь продукт. Выбери компанию — не Т-Банк и не ту, где ты работал. Лучше ту, которой сам пользуешься. Какую возьмём?»
✅ Критерии оценки
Зачёт, если: назвал продукт, которым пользуется, обосновал выбор. (дальше подставляй [ПРОДУКТ])
Шаг 1. Рассказ о компании
🎤 Интервьюер: «Расскажи, как устроен этот бизнес. Как он зарабатывает? Кто его аудитория?»
Стоп-фоллоуапы (задай по очереди):
- «На каком этапе развития сейчас эта компания? Почему так считаешь?»
- «С кем она конкурирует?»
- «В чём её конкурентные преимущества?»
✅ Критерии оценки
Зачёт, если кандидат:
- Описал бизнес-модель и монетизацию, назвал потоки доходов и расходов.
- Учёл структуру (если платформа — все стороны: клиенты/партнёры/исполнители).
- Выделил сегменты аудитории, а не «средний пользователь».
- Обоснованно назвал этап жизненного цикла и его признаки.
- Назвал прямых и косвенных конкурентов и УТП.
⛔ Красный флаг: только перечисление функций приложения; «конкурентов нет»; не может назвать, на чём зарабатывает.
Шаг 2. Метрики и дерево метрик
🎤 Интервьюер: «Ты пришёл в этот продукт аналитиком, а с метриками — лес. На какие метрики будешь смотреть в первую очередь и как их выберешь?»
Стоп-фоллоуапы:
- «Какая здесь North Star? Почему именно она?»
- «Ты назвал [метрику X] — что это, зачем и как её посчитать?»
✅ Критерии оценки
Зачёт, если кандидат:
- Пошёл от цели/этапа и бизнес-модели, а не вывалил список.
- Построил дерево (верхняя метрика → драйверы → input-метрики), назвал хотя бы один фреймворк (AARRR/HEART/пирамида).
- Назвал North Star (бизнесовую + продуктовую) и обосновал связь.
- Может объяснить любую названную метрику (что/зачем/как).
- Метрики покрывают основные направления и не дублируются.
⛔ Красный флаг: хаотичный список без структуры; vanity-метрики (всего скачиваний); не может объяснить свою же метрику.
Шаг 3. Цель и челлендж (встроенная провокация)
🎤 Интервьюер: «Компания ставит цель на квартал: удвоить ключевую метрику — скажем, с 2 до 4 млн. Как думаешь, это достижимо?»
✅ Критерии оценки
Зачёт, если кандидат: челленджит — спрашивает, есть ли основания для 2× за квартал, зачем такая цель, проверяет по тренду, предлагает обоснованную альтернативу.
⛔ Красный флаг: отвечает «да/нет» наугад, не задаёт вопросов, молча принимает цель.
Шаг 4. Дашборд
🎤 Интервьюер: «Эти метрики просят собрать в дашборд для C-уровня. С чего начнёшь?»
Затем (провокация): «Продакт просит добавить туда все возможные фильтры — соцдем, возраст, возрастную группу, регион, средний чек. Сделаешь?»
- Если спросит «зачем» — ответь расплывчато: «чтобы потом самим искать аномалии в разрезах».
- Если спросит «есть ли данные» — ответь: «данные есть».
- Доп.: «А если этих разрезов в хранилище нет?»
✅ Критерии оценки
Зачёт, если кандидат:
- Спросил цель и пользователя борда, назвал категорию (управленческий/аналитический/ операционный), описал флоу (требования→макет→разработка→документация→отслеживание).
- Зачелленджил лишние фильтры («зачем?»), не пихает всё в C-level борд.
- Заметил дубликат (возраст vs возрастная группа), предложил альтернативу (алерты/рассылка).
- На «нет данных в ДВХ» — проактивно стал бы заказчиком для команды ДВХ.
⛔ Красный флаг: «соберу метрики → данные → дашборд» без целей; молча добавил все фильтры.
Шаг 5. Идеи и приоритизация
🎤 Интервьюер: «Какие главные вызовы у этой компании? Предложи идеи, как их решить.»
Затем: «Оставим три идеи: (1) твоя самая перспективная; (2) выход в новый регион; (3) тёмная тема в приложении. Разработка не тянет всё сразу — как расставишь приоритеты, что возьмёшь первым, что последним?»
Затем (спор): «А продакт считает, что сначала надо делать тёмную тему — говорит, на прошлом месте это подняло MAU на 50%. Что скажешь?»
✅ Критерии оценки
Зачёт, если кандидат:
- Выделил зону роста (не «увеличить прибыль»), привязал к North Star.
- Идеи с механизмом и оценкой эффекта в деньгах/метрике.
- Приоритизация через эффект + стоимость разработки, фреймворк (RICE), выкинул лишнее.
- В споре парирует: сопоставимы ли продукты, что было драйвером, перенесётся ли механизм; меняет приоритет только под весомый аргумент.
⛔ Красный флаг: ранжирует «по ощущениям/лёгкости»; поднял приоритет тёмной темы под расплывчатый аргумент.
Шаг 6. Гипотеза и A/B
🎤 Интервьюер: «Возьмём твою топ-идею. Выкатываем фичу. Как поймёшь, что она сработала?»
Стоп-фоллоуапы:
- «Как организуешь A/B-тест?»
- «Сколько примерно стоит провести тест? А если он выйдет дороже самой разработки — проводить?»
- «У нас нет времени на тест, релиз ждали ещё месяц назад. Как иначе проверить эффект?»
✅ Критерии оценки
Зачёт, если кандидат:
- Пришёл к A/B, назвал гипотезу, цель, MDE.
- Описал организацию: дизайн, рандомизация, мониторинг/алерты, смежные команды (поддержка/маркетинг), подумал про сетевой эффект.
- Стоимость теста = прямые + упущенный эффект; «дороже разработки» — не повод отказаться, если фича рискованная/масштабируемая.
- «Нет времени» → назвал альтернативы (diff-in-diff, синтетический контроль, гео-холдаут), но отстаивает A/B / хотя бы холдаут.
⛔ Красный флаг: «посмотрю динамику метрики»; сдаётся на «нет времени» без альтернатив.
🎤 (если идёт легко) «Метрика теста — это CTR. Как корректно сравнишь группы?»
✅ Критерии оценки
Зачёт: распознал ratio-метрику, назвал линеаризацию (или дельта-метод/бутстреп), объяснил, почему наивная дисперсия занижена.
Шаг 7. Маркетинг
🎤 Интервьюер: «Месяц висели баннеры с рекламой [ПРОДУКТА], прометки трафика нет. Продлевать контракт?»
Стоп-фоллоуапы:
- «А если бы там был промокод?»
- «Как понять, что по промокоду пришли реально новые, а не те, кто и так бы пришёл?»
- «Что изменил бы ещё на старте кампании, чтобы аналитика была чище?»
✅ Критерии оценки
Зачёт, если кандидат:
- Критерий CAC < LTV привлечённых (LTV от прибыли, дисконтирование); без прометки — регионы-близнецы/синтетический контроль.
- Понимает каннибализацию, умеет её оценить (холдаут, доля реально новых).
- На старте: контроль/холдаут, UTM, уникальные промокоды, baseline, критерий успеха.
⛔ Красный флаг: «посмотрю динамику в регионе»; не видит проблемы каннибализации.
Итог Прогона 1 (напарник заполняет)
Оцени по компетенциям (Jun / Mid / Sen), опираясь на ✅/⛔ выше:
| Компетенция | Где проявилась | Оценка |
|---|---|---|
| Business acumen (бизнес) | Шаги 1, 5, 7 | |
| Scope (картина целиком) | Шаги 1, 2, 4 | |
| Complexity (сложные задачи) | Шаги 6, 7 | |
| Leadership / автономность | Шаги 3, 4, 5 (челлендж/спор) | |
| Communication | весь прогон | |
| Визуализация | Шаг 4 |
ПРОГОН 2 — Блиц по аналитическим мини-кейсам (~10 мин)
Зачитывай по одному, слушай ответ, потом раскрывай эталон.
🎤 «Пользователи с программой лояльности на 30% чаще покупают. Подключим всех принудительно — вырастут покупки?»
Эталон
Корреляция, не причинность; третья переменная или обратная связь; нужен A/B; +30% не гарантированы.
🎤 «Конверсия в покупку: в вебе и в приложении. Можно ли сказать, что они одинаковые?»
Эталон
Нужна статзначимость, не «на глаз»; доли → z-тест/χ²; учесть разные аудитории и определение конверсии.
🎤 (доп.) «А частоту покупок: 3.7 в вебе vs 4.3 в приложении — как сравнить?»
Эталон
Сравнение средних → t-тест (тяжёлые хвосты → бутстреп).
🎤 «Ключевая метрика вчера упала на 30%. Твои действия?»
Эталон
4 блока: данные (сезонность, сломанное логирование, числитель/знаменатель) → сегмент (источник/устройство/регион/шаг воронки) → продукт (релизы, баги, изменения, A/B) → внешнее (конкуренты, макро, новости). Причины из каждого блока.
🎤 «Когда использовать среднее, а когда медиану?»
Эталон
Скошенные/с выбросами (чеки, время) → медиана/перцентили (p95 для латентности); среднее — симметричные данные / нужна аддитивность. Примеры под обе.
🎤 «Что не так с круговой диаграммой для сравнения структуры по периодам?»
Эталон
Доли плохо сравниваются глазом; лучше stacked bar / линии / таблица с %.
ПРОГОН 3 — Стресс-челлендж (~10 мин)
Здесь проверяется, не прогибается ли кандидат и челленджит ли. Дави.
🎤 «Руководитель хочет перекрасить кнопку — говорит, конверсия вырастет на 40%. Запускаем A/B?»
✅ Что хочет услышать
Уточнить ключевую метрику и как на неё влияет эта конверсия; оценить, есть ли смысл вообще проверять (цена теста vs потенциальный эффект); может прийти к выводу, что A/B не нужен, и убедить в этом бизнес. (Это задача «Глупый АВ».) ⛔ Сразу бежит запускать тест без вопросов.
🎤 «Поверь мне, давай без теста выкатим на всех — времени нет.» (повторяй давление)
✅ Что хочет услышать
Называет риски, предлагает альтернативы, настаивает хотя бы на частичной раскатке с холдаутом. ⛔ Сдаётся.
🎤 «Добавь в дашборд C-level все 15 фильтров, что я просил. Просто сделай.»
✅ Что хочет услышать
Спрашивает «зачем», отсекает дубли, не грузит C-level борд, предлагает алерты/отдельный аналитический борд. ⛔ «Ок, сделаю».
🎤 «Это же маркет-нормал, все так делают. Значит, и нам надо.»
✅ Что хочет услышать
«Релевантно ли это нашей сфере и стадии? Как это бьёт в нашу цель? Чем подтверждается?» ⛔ Принимает как аргумент.
Итог (соло-режим)
После прогонов вернись к чек-листу готовности и отметь, где было ❗️/⛔ — добей эти темы карточками и теорией из соответствующего раздела.