A/B-тест иконок
Важно
Раздел с А/B-тестами появляется только у опубликованных игр. Если у игры создан черновик, опубликуйте или удалите его, чтобы протестировать иконки.
Иконка и обложка могут сильно влиять на запуск вашей игры из каталога. Хорошо подобранные креативные элементы привлекают больше игроков в вашу игру. Чтобы понять, какие иконка и обложка лучше подходят для вашего проекта, запустите A/B-тест для двух вариантов материалов. Пользователи каталога автоматически разделятся на две группы:
- 50% пользователей увидят материалы из контрольной группы;
- 50% пользователей увидят материалы из экспериментальной группы.
Через несколько дней на вкладке A/B-тест иконок консоли Яндекс Игр вы увидите предварительные данные по влиянию иконки и обложки на конверсию пользователей каталога и на продуктовые метрики игры.
Примечание
Для тестирования на различной аудитории предусмотрены три вида заявок:
-
Вся аудитория — позволяет протестировать креативы для всех языков черновика и на всей аудитории каталога. Доступно принятие эксперимента на часть аудитории. Рекомендуемый вариант с точки зрения гибкости и полноты.
-
Русскоязычная аудитория — экспериментальные креативы увидят пользователи только с русскоязычным интерфейсом браузера.
-
Международная аудитория — позволяет протестировать креативы для всех языков черновика, кроме русского. В каталоге приблизительно 15% международной аудитории.
Запуск A/B-теста
Шаг 1. Подготовьте промоматериалы
Подготовьте новые иконку и обложку и проверьте их на соответствие требованиям пункта 8.3.
Шаг 2. Создайте заявку
-
Откройте консоль Яндекс Игр.
-
Выберите нужную игру.
-
Перейдите на вкладку A/B-тест иконок.
-
Выберите аудиторию, на которую хотите завести заявку.
Примечание
Тест на всю аудиторию — рекомендуемый гибкий способ тестирования креативов.
-
Нажмите Перейти к заявке.
Шаг 3. Загрузите файлы
Нажмите Загрузить, чтобы приложить экспериментальные иконку и обложку.
Если вы тестируете креативы сразу для нескольких языков и планируете использовать одинаковые изображения, вы можете ускорить загрузку файлов с помощью опции Применить иконку и обложку для остальных языков (по умолчанию она включена):
- Загрузите иконку и обложку у верхнего варианта. Они автоматически применятся ко всем языкам.
- При необходимости измените иконки и обложки для конкретных языков отдельно.
Шаг 4. Отправьте игру на модерацию
Нажмите Отправить на модерацию.
Примечание
В первые 15 минут заявку можно отозвать с модерации.
Работа с результатами
Чтобы посмотреть результаты A/B-теста:
-
Откройте консоль Яндекс Игр.
-
Выберите нужную игру.
-
Перейдите на вкладку A/B-тест иконок.
Важно
Ограничение по времени эксперимента — 14 дней.
Вверху страницы отображается дата запуска эксперимента и дата, когда он автоматически завершится.
Первые результаты тестирования появятся через несколько дней. Чтобы получить статистически значимые результаты, держите эксперимент не менее недели.
Для сравнения креативов используются метрики:
- CTR иконки в рекомендациях
- CTR обложки в рекомендациях
- CTR иконки в блоке «Мои игры»
- Игроки
- Время играния на игрока
- Время играния
Если метрики окрашены:
- серым — нельзя однозначно судить, влияет ли эксперимент на пользователя;
- зеленым — результат положительный и статистически значимый;
- красным — результат негативный и статистически значимый.
Принятие решения
Важно
Для статистически значимых результатов необходимо держать эксперимент не менее 7 дней, чтобы учесть изменения активности игроков в течение недели. Если тест длится больше недели, можно приступать к принятию решения по эксперименту.
-
Откройте консоль Яндекс Игр.
-
Выберите нужную игру.
-
Перейдите на вкладку A/B-тест иконок.
-
Изучите метрики тестирования и примите решение в зависимости от цвета метрик:
-
зеленый — нажмите Принять эксперимент, чтобы использовать экспериментальные иконки и обложки в качестве основных;
Примечание
Вы можете выбрать, для какой аудитории применить эксперимент, в зависимости от его результатов. Например, если метрики снижаются на русскоязычных игроках, но не международных, используйте экспериментальные креативы только для международной аудитории. При этом дополнительно обновлять черновик не нужно.
-
красный — нажмите Остановить, чтобы прервать эксперимент. Тестирование автоматически завершится спустя 14 дней.
-
Совет
Время от времени повторно тестируйте креативы, чтобы отслеживать изменения в предпочтениях пользователей, рыночные тренды и сезонные колебания.
С вероятностью 90% улучшение метрики связано с изменением иконки или обложки.
С вероятностью 90% ухудшение метрики связано с изменением иконки или обложки.