Директор доволен мартом.
«Запустили скидку на обед и бонус за чек. Плюс девять процентов. Обе работают.»
Какая из них дала девять.
«Вместе дали.»
А если одна дала двенадцать, а вторая минус три.
Директора зовут Слава. Слава молчит секунд восемь, потом говорит, что так вопрос не ставится.
Так вопрос ставится только так.
Почему эффекты не складываются
Две акции в одном месяце запускают, потому что кажется, что пять и четыре дадут девять.
Не дают почти никогда. Акции живут на одних и тех же людях и вычитаются друг из друга. Гость, которому положены и скидка на обед, и бонус за чек, выберет одну. Ту, что выгоднее ему.
Дальше самое неприятное: разделить постфактум невозможно. У вас одна выручка, одно число и две причины. Никакая аналитика после факта не скажет, какая из причин работала, а какая ела.
Решение принимается на запуске. В отчёте принимать уже нечего.
Три способа, от плохого к рабочему
Первый. Обе акции на всю базу, смотрим общую выручку. Получаете одно число и ноль знания. В апреле повторяете обе, потому что не знаете, какая была лишней, и платите за неё годами.
Второй. Разнести по сегментам. Скидка на обед идёт только обеденным, бонус за чек только вечерним. Сегменты не пересекаются, эффекты не смешиваются, у вас два честных числа вместо одного мутного.
Третий. Контрольная группа на каждую акцию. Десять процентов целевого сегмента не получают ничего. Через месяц сравниваете тех, кто получил, с теми, кто нет. Разница и есть эффект, очищенный от сезона, погоды и от того, что люди пришли бы сами.
Здесь и вылезает правда. Акция показала прирост двенадцать процентов, а контрольная группа выросла на девять просто потому, что март. Реальный эффект три процента при отданной скидке в двадцать.
Без контрольной группы все двенадцать записываются в успех, и в апреле всё повторяется.
Правило: две акции в месяц, сегменты не пересекаются, у каждой своя метрика и свои десять процентов необлагодетельствованных. Не получается, запускайте одну.
Апрель
Слава развёл акции по сегментам. Обед и вечер, контрольные группы, всё как договорились.
Скидка на обед дала одиннадцать процентов. Бонус за чек минус два.
Бонус за чек он оставил.
Объяснил, что его придумала жена.
