Выбор подходящего инструмента A/B-тестирования мобильного приложения для оптимизации взаимодействия с пользователем внутри приложения
Опубликовано: 2020-12-22В сегодняшнем мобильном мире кажется, что каждая вторая запись в блоге в Интернете рассказывает о том, как вы можете превзойти пользовательский интерфейс и UX вашего мобильного приложения. Непрерывная оптимизация мобильных приложений для повышения вовлеченности и удержания пользователей — не проблема. Но прикладывать усилия для оптимизации ваших мобильных приложений, не имея в своем арсенале нужного инструмента, это все равно, что работать над презентацией блюда, не понимая, какое оборудование вам нужно, чтобы приготовить его при правильной температуре.
Выбор правильного инструмента A/B-тестирования мобильных приложений может оказаться сложной задачей как для менеджеров по продуктам, так и для разработчиков приложений и маркетологов. Во многом это связано с тем, что выбор идеального инструмента или платформы для ваших уникальных требований к тестированию зависит от множества параметров, некоторые из которых, как правило, игнорируются, если вы принимаете поспешные или неосведомленные решения. Следует ли вам сосредоточиться на инструменте, который лучше всего подходит для вашего варианта использования, или на инструменте, который предлагает простую интеграцию с другими вашими платформами? Как вы можете гарантировать, что инструмент не повлияет на производительность вашего приложения? Как насчет отчетов — как вы можете быть уверены в точности результатов, которые выдает ваш инструмент?
В следующем разделе мы обсудим все факторы, которые необходимо учитывать, прежде чем выбрать инструмент A/B-тестирования мобильных приложений.

Если вы ищете различные инструменты, доступные на рынке, вы можете перейти к этому разделу, содержащему список инструментов.
Если вы хотите понять, как оценивать инструмент для экспериментов, читайте дальше.
Как правильно выбрать инструмент?
Идеальная платформа для A/B-тестирования мобильных приложений достаточно надежна, чтобы предлагать обширные функции тестирования, которые позволяют оптимизировать сквозное взаимодействие с приложением, а также возможности управления функциями, чтобы вы могли управлять всем жизненным циклом функций. В конечном счете, цель состоит в том, чтобы найти правильный вариант взаимодействия и функций в приложении, чтобы оптимизировать ваше приложение для повышения вовлеченности и конверсии.
Чтобы выбрать инструмент, наиболее подходящий для вашей дорожной карты CRO, рассмотрите следующие параметры.
Вариант использования под рукой
A/B-тестирование мобильных приложений имеет множество вариантов использования. Чтобы вы могли выбрать правильный инструмент для своего бизнеса, вы должны сначала иметь четкое представление о вариантах использования, которые вы хотите решить (по крайней мере, те, с которых вы хотите начать). Как только вы поймете это, вы автоматически станете на шаг ближе к выбору инструмента, предлагающего максимальные возможности, отвечающие вашим требованиям.
Вот некоторые из наиболее распространенных вариантов использования A/B-тестирования мобильных приложений:
электронная коммерция
Устранение трений в ключевых потоках пользователей
Для современного покупателя, который постоянно находится в пути и которому требуется беспрепятственный процесс совершения покупок, трения в потоке пользователей, особенно в таком важном, как оформление заказа, могут привести к разочарованию и потере интереса, что в конечном итоге увеличивает процент отказов от покупки. На самом деле, знаете ли вы, что у мобильных устройств самый высокий показатель отказов от корзины (по сравнению с планшетами и настольными компьютерами) — 85,65%? A/B-тестирование пользовательских потоков вашего приложения для электронной коммерции может помочь вам радикально снизить количество отказов и отказов, прокладывая путь к восхитительному пользовательскому опыту.

Инструменты A/B-тестирования мобильных приложений позволяют вам создать два (или более) варианта ваших пользовательских потоков, чтобы вы могли сопоставить их друг с другом и развернуть тот, который приведет к максимальному улучшению ключевых показателей вашего приложения. Кроме того, ваш инструмент также должен позволять вам сегментировать ваших пользователей на основе их поведения при покупке и просмотре, а также других демографических атрибутов, чтобы вы могли ориентироваться на них с наиболее релевантным вариантом и выяснять, что работает для какой группы.
Оптимизация эффективности алгоритмов поиска и рекомендаций по продуктам
Должен ли ваш алгоритм рекомендаций по продуктам основываться на истории покупок покупателей, популярных товарах или самых популярных продуктах из определенной категории? Как ваш поисковый алгоритм должен классифицировать продукты, определять их релевантность конкретному поисковому запросу и по каким критериям они должны ранжироваться на странице результатов поиска?
При A/B-тестировании мобильных приложений вам не нужно полагаться на догадки или лучшие практики, чтобы найти ответы на вышеуказанные вопросы. Хотя тестирование изменений на основе пользовательского интерфейса является одним из вариантов использования, для которого предназначен надежный инструмент, он также позволяет вам экспериментировать с вашими критически важными алгоритмами, включая рекомендацию продукта и поиск, чтобы вы могли стратегически повысить их эффективность. Протестировав несколько версий ваших алгоритмов, вы сможете выяснить, какой из них окажется наиболее эффективным для вашего магазина, будь то повышение продаж/перекрестных продаж или получение наиболее релевантных результатов поиска.
Игры
Экспериментирование с функциями в приложении перед универсальным развертыванием
Универсальное развертывание новой функции в вашей игре может быть довольно сложным. Вы можете либо сорвать джекпот и сразу же увидеть, как подскочат уровни использования и вовлеченности вашего приложения, или, если говорить более реалистично, это может привести или не привести к результатам, которые вы ожидали. Таким образом, инструменты A/B-тестирования мобильных приложений позволяют снизить риск, связанный с запуском внутриигровых изменений и обновлений, экспериментируя с ними и внедряя их поэтапно в один или несколько сегментов пользователей. Если он работает хорошо, вы можете развернуть его для всех пользователей; если нет, вы всегда можете собрать отзывы, включить их, улучшить и перезапустить расширенную версию с уверенностью.

Инструменты A/B-тестирования мобильных приложений также предлагают широкие возможности управления жизненным циклом функций, в которых вы можете развертывать функции поэтапно, тестировать их на определенном сегменте пользователей и даже использовать флаги функций для управления ими во время выполнения, а также контролировать и/или изменять тех, кто получает доступ к нему.
Оптимизация стратегии ценообразования в приложении
Чтобы максимизировать вовлеченность в ваше игровое приложение, а также доход, вам, возможно, придется поэкспериментировать с несколькими стратегиями ценообразования для разных сегментов пользователей, поскольку одна и та же модель может не работать как для незаинтересованных, так и для лояльных игроков. Поэтому выберите инструмент A/B-тестирования мобильного приложения, который позволит вам протестировать ваш алгоритм динамического ценообразования, чтобы выяснить, какой из них обеспечивает наилучшие результаты для того или иного сегмента.
Предлагайте персонализированные игровые возможности
В наши дни игровые возможности мобильных приложений требуют гиперперсонализации, и это правильно. Чтобы создать заманчивую игровую среду, которая держит геймеров на крючке, вы не можете полагаться на одну стратегию. Используя инструмент A/B-тестирования мобильного приложения, вы можете тестировать все динамические элементы своего игрового приложения и предлагать персонализированные впечатления на основе уровня каждого игрока в игре, оценки вовлеченности и других атрибутов. Таким образом, вы можете постоянно обнаруживать и обеспечивать то, что ваши пользователи ожидают от вас, чтобы поддерживать их интерес.
Суть в том, что какой бы вариант использования вы ни хотели достичь с помощью A/B-тестирования мобильного приложения, вы должны быть уверены в нем заранее, чтобы принять стратегическое решение о выборе правильного варианта на основе ваших требований.
Интеграции и плагины, предлагаемые инструментом
Вы хотите убедиться, что любой инструмент, который вы выберете, является правильным дополнением к вашему техническому стеку, а это означает, что он легко интегрируется с другими вашими аналитическими, маркетинговыми и торговыми платформами, поэтому у вас не будет проблем с доступом к необходимым данным и вводя его в конвейер оптимизации вашего приложения. Например, наиболее важным из них будет ваша аналитическая платформа, поэтому вы можете использовать ее для получения информации о трафике и аудитории вашего веб-сайта, которая затем станет основой для выработки гипотез.
Для этого создайте список инструментов, которые вы используете в настоящее время, и найдите те, которые поддерживаются оцениваемой вами экспериментальной платформой. Если у вас есть бизнес электронной коммерции, вы также можете убедиться, что любая платформа электронной коммерции, на которой построен ваш магазин (например, Shopify или WooCommerce), также поддерживается.
VWO, например, интегрируется со всеми основными инструментами веб-аналитики, платформами электронной коммерции, платформами CSM, продажами и платформами ABM.
Размер, использование ОЗУ и производительность SDK
SDK, поддерживаемый платформой, заслуживает вашего внимания, поскольку он может повлиять на производительность вашего приложения. Вот параметры, по которым вы должны его оценить:
- SDK должен быть легким, чтобы он не оказывал существенного влияния на размер вашего приложения.
- Не следует использовать много оперативной памяти, так как мобильные устройства в любом случае имеют ограниченную доступность оперативной памяти.
- Должен хорошо работать и быть легко доступным в любое время. SDK VWO для A/B-тестирования мобильных приложений доступен даже без активного подключения к Интернету и тщательно тестируется, чтобы избавиться от всех ошибок, которые могут негативно повлиять на производительность вашего приложения.
Возможности отчетности
Важно уделить внимание пониманию расчета результатов A/B-тестирования и генерации отчетов, поскольку это определяет влияние ваших экспериментов. Статистика — это основа A/B-тестирования, основанного на расчете вероятностей. Однако существует несколько подходов к интерпретации вероятностей в A/B-тестировании, наиболее распространенными из которых являются частотная и байесовская модели.
Убедитесь, что вы выяснили, использует ли выбранный вами инструмент статистическую модель Frequentist или Bayesian. Традиционно в большинстве инструментов использовалась модель Frequentist, в которой результаты тестирования основаны исключительно на данных текущего эксперимента и не учитывают какие-либо предыдущие данные. Модель Frequentist основана на проведении определенного теста в течение определенного периода времени и до тех пор, пока не будет достигнута статистическая значимость, чтобы можно было собрать достаточно данных для правильного расчета вероятности того, что один вариант превзойдет другой. Однако он не дает количественной оценки разницы между двумя вариантами с учетом неопределенности, связанной с объемом данных, полученных вами в ходе теста.

Байесовская статистическая модель, с другой стороны, обеспечивает естественный способ обучения, позволяя вам вводить свои убеждения из аналогичных предыдущих экспериментов в модель, как и раньше, комбинировать ее с данными из текущего, а затем вычислять результаты теста. Вероятность того, что ваша гипотеза верна, рассчитывается на основе меняющихся данных и информации о том, что произошло до этого момента.
Байесовская статистическая система VWO, SmartStats, помогает вам принимать более разумные решения по оптимизации конверсии, не только предоставляя вам вероятность того, что один вариант превзойдет другой, но и потенциальные потери, связанные с его развертыванием. Благодаря SmartStats вы можете не полагаться исключительно на достижение статистической значимости или выполнение тестов в течение заданного периода времени, а также быстрее завершать тесты и ожидать более точных результатов. SmartStats помогает вам быстрее принимать разумные бизнес-решения и получать конкурентное преимущество перед конкурентами.
Представьте себе сценарий, в котором вы не уверены, может ли дополнительное предложение с вашей услугой привести к увеличению продаж. Вы планировали провести A/B-тестирование, чтобы проверить эту гипотезу, выделив половину трафика сервису с надстройкой (вариант A), а другую половину — без надстройки (вариант B).
Традиционный тест Frequentist даст ответ «да/нет» только в том случае, если вариант A отличается от варианта B. Кроме того, результаты теста действительны только после того, как вы наберете достаточное количество посетителей в своем тесте.
Однако байесовская статистическая система VWO, SmartStats, предоставляет вам шансы того, что один вариант превзойдет другой, а также основные потенциальные потери продаж, связанные с каждым вариантом. Обе метрики остаются действительными на протяжении всего теста.
С помощью SmartStats вы можете перейти от двоичных выходных данных к более интерпретируемым показателям.

твой бюджет
Излишне говорить, что ваш бюджет является огромным фактором, который следует учитывать при выборе инструмента. В зависимости от конкретных вариантов использования, которые вы хотите решить, и функций, которые вам нужны, вам придется искать инструмент, который отвечает всем требованиям, а также хорошо вписывается в ваш бюджет, чтобы вы могли добиться значительной рентабельности своей экспериментальной программы.
Особенно, если вы только начинаете заниматься оптимизацией мобильных приложений, выбор сравнительно дорогого инструмента может не принести вам значительной рентабельности инвестиций. Вместо этого начните с инструмента, который предлагает бесплатную пробную версию, чтобы вы могли всесторонне оценить все его функции и решить, соответствует ли он вашим требованиям. VWO, например, предлагает бесплатную пробную версию, которую ваша команда может использовать для запуска нескольких кампаний и выяснения, удовлетворяются ли ваши уникальные потребности.
Поддержка и помощь, предлагаемые платформой
При оценке инструмента люди часто упускают из виду уровень и качество поддержки, которую предлагает платформа. Однако это критический фактор, который играет важную роль в определении скорости тестирования и масштаба вашей программы оптимизации. Если вы будете получать специализированную квалифицированную помощь на протяжении всего пути, вы сможете более эффективно достигать своих целей и со временем наращивать свои усилия.
Более того, если вы новичок в A/B-тестировании мобильных приложений, вам может понадобиться помощь в настройке первых нескольких кампаний и получении ответов на ваши вопросы. Поэтому убедитесь, что вы выбрали инструмент, который предлагает лучшую в своем классе поддержку (быстрое время отклика, максимальная доступность, достаточные ресурсы для самопомощи, многоканальная поддержка, CSAT и т. д.), чтобы вы могли не только ускориться, но и эффективно добиваться намеченных результатов.

Даже если вы имеете некоторый опыт и хорошо разбираетесь в A/B-тестировании своих мобильных приложений, вам может потребоваться обширная поддержка сразу после регистрации в новом инструменте. С этой целью убедитесь, что вы выбрали инструмент, который предлагает специальную поддержку, быстрые TAT и эффективное решение, чтобы помочь вам устранить все препятствия на пути к экспериментам.
По правде говоря, вам нужен всеобъемлющий инструмент. Нет ни одного упомянутого выше фактора, который был бы менее важным, и вам не нужно идти на компромисс в отношении качества тестирования или ваших требований.
Тестирование мобильных приложений VWO — комплексная платформа для всех ваших потребностей в оптимизации приложений.
VWO Mobile App Testing — это надежное решение для оптимизации мобильных приложений. От экспериментов с несколькими вариантами взаимодействия с пользователем в приложении (как на основе пользовательского интерфейса, так и на стороне сервера) до тестирования ключевых функций до и после запуска — вы можете делать все это с легкостью. Если вы хотите протестировать базовые изменения пользовательского интерфейса, такие как CTA или текст баннера, цвет и размещение, или провести радикальную оптимизацию алгоритмов вашей поисковой системы, игровых возможностей и т. д., у вас есть все необходимое для постоянного роста вовлеченности, использования, удержание и конверсии.
Вы также можете комбинировать A//B-тестирование мобильных приложений с VWO Insights, который предлагает возможности теплокарты, записи сеансов и аналитики форм, чтобы вы могли собирать полезную информацию о пользовательском опыте вашего приложения и преобразовывать ее в возможности оптимизации.

VWO предлагает расширенные возможности сегментации и таргетинга, которые позволяют вам сегментировать своих пользователей на основе их поведенческих характеристик и ориентироваться исключительно на них. VWO также интегрируется со всеми основными аналитическими платформами, поэтому вы можете собирать и анализировать соответствующие данные, необходимые для принятия обоснованных решений в отношении экспериментов.
SDK VWO для A/B-тестирования мобильных приложений имеет открытый исходный код и легкий вес (около 200 КБ для Android и 285 КБ для iOS), который использует всего около 100 КБ или 300 КБ ОЗУ для Android и iOS.
Кроме того, VWO предлагает поддержку 24 * 7 * 365 (и исключительное время отклика) с экспертами по оптимизации, которые помогут вам на протяжении всего вашего пути, чтобы гарантировать, что вы получите желаемые результаты от своих кампаний. С CSAT 98% (по сравнению со средним показателем по отрасли 94%), команда поддержки VWO берет на себя полную ответственность за устранение всех подводных камней, с которыми вы можете столкнуться, таким образом гарантируя, что вы получите максимальную отдачу от программы оптимизации вашего мобильного приложения.
Если у вас есть опасения по поводу того, насколько VWO соответствует этим обещаниям, как насчет того, чтобы попробовать его бесплатно и оценить его для себя? Если у вас есть вопросы по этому поводу, вы можете запросить демонстрацию у одного из экспертов по оптимизации VWO и получить на них ответы.
Другие инструменты A/B-тестирования мобильных приложений
Вот список нескольких других широко известных инструментов для экспериментов с мобильными приложениями, а также их цены.
Оптимизировано
Optimizely предлагает кроссплатформенное решение для пометки функций и экспериментов, которое позволяет вам проводить эксперименты на основе пользовательского интерфейса, а также на стороне сервера, а также снижать риски при запуске функций. Вы получаете доступ к полному стеку и многоканальным возможностям экспериментирования, поэтапному развертыванию функций, возможности мгновенного обновления приложений и многому другому благодаря предложению Optimizely по оптимизации для мобильных устройств. Они предлагают бесплатный план развертывания, действительный в течение 7 дней, который позволяет вам оценить их основные возможности.
ЗапуститьDarkly
LaunchDarkly предлагает управление флагами функций и возможности экспериментирования в масштабе, а также детальный контроль. Вы можете управлять всем жизненным циклом своей функции — от ее производства и тестирования до развертывания и анализа производительности. Вы получаете полный контроль над каждой функцией, чтобы свести к минимуму риск и уверенно запускать ее.
Вы можете начать с бесплатной пробной версии или воспользоваться начальным планом за 75 долларов в месяц (ограничено одним участником), чтобы опробовать его основные функции. Однако этот пакет не включает экспериментальные функции, для которых вам придется перейти на более высокий план.
АБ Вкусно
AB Tasty предлагает UX-аналитику, экспериментирование, персонализацию и возможности управления флажками функций, которые позволяют оптимизировать сквозной опыт работы с вашим мобильным приложением. Используя их, вы можете создавать пользовательские сегменты, предлагать уникальные возможности для различных сегментов вашей пользовательской базы и экспериментировать с функциями, прежде чем внедрять их. Вы можете воспользоваться индивидуальной цитатой с их веб-сайта на основе ваших уникальных пользователей в месяц и других требований.
Adobe Таргет
Target — это платформа тестирования и персонализации от Adobe. В основном используемый для масштабируемой персонализации взаимодействия с приложением, Target легко интегрируется с Adobe Analytics и Adobe Audience Manager. Его можно использовать для оптимизации вашего взаимодействия с приложением на основе поведения пользователя, чтобы повысить вовлеченность. Однако Target не предлагает возможности управления функциями, поэтому вам, возможно, придется выбрать для этого другой инструмент.
A/B-тестирование Firebase
Firebase A/B Testing от Google Optimize предоставляет возможности как для экспериментов, так и для управления функциями. Поскольку он предлагается Google, он легко интегрируется со всеми другими инструментами Google, поэтому поиск данных и углубление информации для ваших кампаний не будет проблемой.
Вывод
Выбор правильного инструмента, который наилучшим образом соответствует целям вашего эксперимента, — это только первый (хотя и чрезвычайно важный) шаг к улучшению ключевых показателей вашего приложения. Успешное использование инструмента означает замыкание цикла оптимизации, вложение времени и усилий во все, от сравнительного анализа ваших ключевых показателей эффективности до документирования ваших знаний и их использования в дорожной карте тестирования. Подпишитесь на бесплатную пробную версию с VWO, чтобы сделать это с легкостью.
