如何使用 A/B 测试工具实现优化成功? 前 6 大因素解释
已发表: 2021-08-26为您的企业投资合适的 A/B 测试工具只是第一步。 真正的魔力在于您的流程和策略。
但是,哪些流程和策略可以使您的优化计划获得最佳结果?
在本文中,我们将向您展示使您的 A/B 测试工具尽可能为您工作并获得最高投资回报率的 6 种方法。
但在我们开始之前,使用 A/B 测试工具时需要牢记一些关键方面。 这些方面与:
- 工具的限制
- 该工具背后的供应商团队的限制,以及
- 您自己的优化过程和文化的限制可能会在成功使用 A/B 测试平台时遇到障碍。
现在,让我们深入探讨这 6 种获取最大收益的方法:
- 1.从教育开始(不要跳过这个)
- 该工具仅与假设一样好
- 如果没有适当的执行,最好的假设可能会出轨
- 2. 利用工具的灵活性发挥您的优势
- 集成
- 自助支付
- 3. 检查工具引入的(有效性)威胁
- A/B 测试工具会影响您的核心网络生命力吗?
- 您的 A/B 测试工具会导致闪烁吗?
- 您的 A/B 测试工具是否考虑了隐私因素?
- 您的 A/B 测试工具会导致对照组和治疗组之间的交叉污染吗?
- 4. 深入了解统计数据并考虑聘请专门的人才
- 5. 设置您的工具以供使用和采用
- 开始权利
- 使用工具的项目管理功能
- 命名很重要
- 确保您很好地使用了供应商支持
- 6. 为您的 A/B 测试程序测量正确的输出
- 下一步
1.从教育开始(不要跳过这个)
这是您投资使用这些工具的人的地方。 因为,无论是免费还是付费,您的 A/B 测试工具所带来的收益都与使用它的人一样好。
初学者测试人员手中的 A/B 测试软件与专家手中的相同软件不同。
OptiPhoenix 的 Ace 优化师 Simar Gujral 深谙此道。 他为新员工进行工具培训,但超越了“如何使用 A/B 测试工具”来强调流程培训和策略。
Journey Further 的 Jonny Longden 说,你的投资的 80% 应该在人身上,20% 在技术上:
因此,从优化中获得最大 ROI 收益的第一步是让自己和您的团队了解正确的 A/B 测试流程和策略。
您可以开始使用 CXL 的 CRO 和 A/B 测试程序。 事实上,作为 Convert 客户,您将可以访问此 CXL 培训计划。
培训是让测试人员准备好:
- 提出伟大的假设进行测试
- 首先优先测试高影响区域
- 正确读取数据并提取有价值的见解
- 寻找测试想法
- 测试正确的事情
… 和更多。
它是最佳 A/B 测试正确性的基础。 因为…
该工具仅与假设一样好
让我们面对现实吧:您的工具只会按照您的意愿行事。
如果你的出价是基于糟糕的假设,A/B 测试不会给你想要的结果。
有很多方法可以建立一个伟大的假设,但只有当它们是从可靠的数据中创建时才有可能。 这不仅仅是数据的收集,还有数据的处理和解释。 因此,对支持您的假设的数据分析的态度应该是业务增长的态度。
使用您的数据来发现您的产品或业务中的问题并揭示改进的机会。 这就是开始的地方。
这也是未来假设的教育跳板。 从测试中学习可以阐明什么有效,什么无效的新见解。 这里的常见错误是将失败的测试视为失败。
所有这些实验都可以帮助您进一步了解您的策略——避免错误转向或继续有效的方法——无论哪种方式,您都在正确使用您的工具。
使用我们的免费 A/B 测试假设生成器创建一个强有力的假设。
如果没有适当的执行,最好的假设可能会出轨
即使你的假设是正确的,如果没有适当的执行,你可能无法充分利用它。
发生这种情况的原因有很多。
例如,您可能是
- 运行测试时间过长
- 运行测试的时间不够长
- 同时运行太多测试
- 在错误的时间进行测试,或
- 以错误的方式设置测试。
造成这里问题的主要原因是缺少以下三件事中的一项或多项:
- 正确的实验心态和策略
- 优质的技术和理论知识
- 充分了解使用该工具。
对于前两个,高质量的教育和实践经验涵盖了它。 对于最后一个,您的 A/B 测试工具欠您一个入门会话,以消除您的用例特有的所有误解。
在 Convert,我们发现在接受过强大技术培训并与我们的专家一起寻求工具教育的客户与从我们的应用程序中获得价值的机会之间存在很强的相关性。
确保为您提供的应用引导是以用户为中心,而不是以功能为中心。 您希望供应商在设计入职培训时考虑以下因素:
- 您从工具中寻求的核心价值
- 体验核心价值所必须采取的步骤
- 一路上遇到的摩擦
- 您的易用性。
当您需要将您的成功实验付诸实施时,它可能会卡在开发队列中。 也许优化团队中没有专门的开发人员,或者主要的 Web 开发团队正忙于“更大”的项目。
但是这些小的变化可能会产生很大的影响——您也已经证明了这一点——因此它们值得开发人员同等关注。 拆分您的产品开发队列,以便小的修复得到与大而紧急的任务相同的关注。
2. 利用工具的灵活性发挥您的优势
尽其所能使用工具的另一种方法是利用其全部功能 - 当然,仅适用于您的独特用途。
您可以使用:
集成
集成是创建相互关联的协作工具堆栈以增强您的 A/B 测试、营销或转化率优化工作的支柱。
可能是从堆栈的多个工具中提取数据并为假设提供信息,将这些数据发送到尽可能多的平台,包括谷歌分析,或者对您的电子邮件营销活动进行 A/B 测试。
以下是 Speero 的首席技术官 Silver Ringvee 对此的评价:
确保不要将数据隔离在测试工具中。 我建议将您的实验数据推送到尽可能多的相关工具和目的地。 通过这种方式,您可以深入挖掘分析工具中的变体组,使用 Hotjar 之类的工具分析用户行为,并计算对 LTV 或数据仓库内流失等长期指标的影响。
自助支付
对于刚开始进行 A/B 测试并且实际上并没有无穷无尽的预算可以应付的企业来说,这一点尤其如此。 目的是稳步提高您的测试速度。
因此,请确保该工具允许您根据需要购买更多经过测试的用户,而无需暂停您的计划,直到您升级到更高价格的级别(在与销售代表进行疲惫的对话之后)。
如果您可以升级以访问您可能只在需要时偶尔需要的功能,那将是理想的选择。 当您的测试程序处于停滞状态时降级,以便您可以使用预算来提升您的团队的技能。 不要错过这个机会。
此外,昂贵的工具带有很大的承诺,很快就会变成炒作。 不要被那些能让你测试一切的花里胡哨的东西卖掉。 你很少需要这样做。
相反,请专注于可以让您测试业务需求的工具。 这就是教育和测试策略的用武之地。
在 Convert,我们允许自助服务计划升级和降级、每月付款选项,以及仅购买额外测试用户的能力。
3. 检查工具引入的(有效性)威胁
在您完全信任您的结果之前,请确保您完全了解您选择的工具是如何工作的以及您是如何实施测试的。
这里的目标是查看您的数据是否以某种方式损坏,以便您知道对结果有多大信心。
A/B 测试工具会影响您的核心网络生命力吗?
确保您以不会降低搜索引擎排名的方式实施 A/B 测试工具。 您不希望 SEO 与 CRO 辩论。 两者齐头并进。
您几乎不会出于 CRO 目的对您的网站进行任何更改,这会破坏您在 Google 中的地位。 您所做的任何更改通常都会影响关键字、页面内容和用户体验。 这只是 200 多个排名因素中的 3 个。
而且,由于您增加了这些页面上的转化次数,因此您也向 Google 发送了人们喜欢您的内容的积极信号。 跳出率较低,访问者数量正在增加。
根据 Moz 的 Rand Fishkin 的说法,只要您没有对页面进行疯狂的更改,您就应该将 CRO 和 SEO 视为队友,而不是相互对立的因素。
附加阅读:A/B 测试的核心 Web 生命力:您的 A/B 测试软件是否会降低您的网站速度?
您的 A/B 测试工具会导致闪烁吗?
您不希望眨眼歪斜测试数据。 选择一个不会闪烁的工具。
闪烁会破坏您从实验中收集的数据的完整性,因为您的网站访问者很明显您的网页正在发生一些奇怪的事情。 当他们在变体出现之前瞥一眼原始版本时,就会在他们的脑海中留下问号。 不言而喻,向同一访问者显示不同版本的页面会破坏用户体验。
您需要以明确支持不闪烁的方式部署工具代码。 这是你可以做到的。
以下是专家们必须分享的关于网站优化中闪烁的一些实际影响的内容:
尽管我们确实喜欢在我们的体验中进行个性化,但在许多情况下,我们不想知道我们正在被个性化,原因是我们想要控制,根据自决理论,我们想要对我们正在做的事情拥有自主权和“控制权”。
因此具有闪烁效果,它显示控件几秒钟,然后更改为变体; 即使我们尝试重新加载页面或返回第一个版本,我们也无法返回到第一个版本,因为 cookie 已保存。 它会导致不信任和焦虑。 “为什么我不能回到我以前看过的东西?” “我喜欢我看到的第一页,我怎么能回去?”
简而言之,它会导致对存在此问题的品牌的不信任,它会增加跳出率和转换损失。
卡洛斯·阿尔贝托·雷耶斯·拉莫斯,斯佩罗
闪烁以多种方式影响您的测试。 任何时候你都可以在你的实验中完全消除闪烁——去做吧。 您可以采取一些策略来确保不会发生闪烁——我建议尽可能多地采用这些策略,尤其是对于涉及首屏组件的测试。 或者,如果您知道要测试的特定组件更容易出现闪烁 - 请考虑重新设计您的测试,以便它仍然测试假设但不会修改该特定组件。
我参与了我们进行价格促销测试的实验。 你能想象如果你的闪烁运行了很长时间,用户看到一个促销,然后闪烁到另一个促销? 作为用户,我会很生气。 如果闪烁足够严重,您必须在实验中考虑测试是否由于假设被证明是错误的、闪烁或两者兼而有之而失败! 在这种情况下,您正在测试两个变量,而不是一个。
如果您担心闪烁可能会对您的网站造成多大影响,您可以选择测试相同的着陆页体验但引入闪烁。 这样,您将能够测试闪烁并以“非劣质”方式分析结果,以查看闪烁可能对特定元素造成的影响。
一般来说,如果闪烁是不可避免的,这是最后的努力——您应该始终尽最大努力进行没有任何闪烁的实验。
Shiva Manjunath,斯佩罗
您的 A/B 测试工具是否考虑了隐私因素?
通常,当 A/B 测试工具不使用第一方 cookie 时,由于跨浏览器的跟踪预防,现有的网站访问者可能会在报告中重新计算,或者更糟糕的是,会同时受到处理和控制。
这种跟踪预防包括:
- 来自 Safari 的智能跟踪预防 (ITP)
- 来自 Mozilla 的增强型跟踪保护 (ETP),以及
- 来自 Microsoft Edge 的跟踪预防
根据您使用这些浏览器的流量百分比,它们对您的营销分析的影响程度会有所不同。
由于这些预防措施,浏览器将 cookie 保留不同的时间长度。 从长达 30 天到短至 24 小时。 由于 cookie 帮助工具识别用户,这会影响新用户数量并混淆转化率计算。
比如说,cookie 的保质期是 24 小时,如果同一个人相隔 2 天访问您的网站,将被记录为 2 个不同的用户。
如果这种情况发生在 100 位用户中,其中 50 位最终转化,则转化率(转化率除以用户数)将为 0.25。 因为这 100 个用户被记录为 200 个不同的人。 转换率应该是 0.50。
这会影响各种与用户相关的指标。 为了让您继续尽可能准确地获取测试和营销分析所需的数据,请选择具有无 cookie 世界解决方案的工具。
您的 A/B 测试工具会导致对照组和治疗组之间的交叉污染吗?
另一件可能破坏测试结果完整性的事情是对照组和治疗组之间的交叉污染。 您的测试结果不应受到其他测试结果的影响。
如果您打算在一个网站或网页上运行多个测试,您的工具需要具有一个有价值的功能:碰撞预防。
如果您的测试重新设计没有考虑从控制组到变体组的影响溢出(这在社交媒体实验中很常见)并且您没有防止冲突,那么这是一个合理的 A/B 测试陷阱。
4. 深入了解统计数据并考虑聘请专门的人才
该工具不是投资大部分测试预算的第一选择。 如果这是您的策略,您甚至可能难以证明您的 A/B 测试的投资回报率。
如果您的组织正在完全吸收实验文化并一直做出数据驱动的决策,即使您已成功实现数据民主化并在该领域全力以赴,那么投资于为此目的而献身的人才。 如果你能负担得起,一个团队。
这是因为从长远来看,试验不会产生预期的结果,因为它只是营销团队中某人的副业。 即使只有 50% 的测试人员也总是胜过 1% 的测试人员。
您还希望更多地关注您的人才的领导能力和沟通技巧,以在您的组织中推广这种测试文化。 提出很好的假设并运行合理的 A/B 测试、拆分测试或多变量测试是可以学习的技能。
当谈到您的 A/B 测试工具时,您希望能够信任您获得的结果。 选择对他们的统计方法开放的选项。
无论是贝叶斯主义者还是频率主义者,您具有扎实统计背景的专业人才应该能够理解这些数字是如何计算的。 通过这种方式,您可以提取更准确的见解,并从投资于您的工具的资金中获得全部价值。
即使您使用的是最好的免费 A/B 测试工具之一,Google Optimize,您也需要此信息。 不幸的是,关于 GO,您所能了解的只是它使用贝叶斯,但不会与您分享其先前的考虑。 这是缺乏透明度和一个大问题。
也许是时候考虑过渡到更可靠的测试了?
另一方面,使用频率统计引擎,合作者可能只关注统计显着性水平并得出错误的结论。 啊,偷看的不合逻辑的罪过! 你应该等到它达到样本量。
你能做的就是制定禁止偷看的规则。 您不希望人们得出影响决策质量的错误结论。
始终选择具有透明统计引擎的供应商。
Convert Experiences 使用 0.05 置信水平 (95%) 的 2 尾 Z 检验(即每个尾为 0.025,正态对称分布),并可选择在 95%-99% 之间进行更改。
5. 设置您的工具以供使用和采用
组织中其他成员采用测试文化的障碍之一是其中一些工具的学习曲线相当陡峭。
但是你可以让普通用户更容易理解和理解。 就是这样:
开始权利
如果有很多功能看起来太技术性甚至无法打扰,那么您很容易压倒其他人。
如果您不使用这些花哨的功能,请选择一个轻量级的工具来减少功能膨胀。 VWO 的产品为此做好了准备(是的,一个竞争对手……但他们的这方面真的很棒)。
使用工具的项目管理功能
这是一种让其他人参与进来并作为一个团队无缝地进行 A/B 测试的绝佳方式。
此外,其他人可以将相同的工具用于不同的目的。 例如,Convert 能够在一个帐户中拥有多个项目,每个项目都能够处理无限的子域。
命名很重要
以这样一种方式进行设置,以便团队中的任何人都可以使用该工具并了解正在发生的事情。 在这种情况下,熟悉会滋生收养。
刚开始时为测试创建命名约定可能看起来有点矫枉过正,但随着测试速度的提高和旧测试的迭代次数的增加,你会很高兴你这样做了。
A/B 实验的名称应该简短且具有描述性。 一个好名字包含以下信息。
- 作者(开发人员或团队 - 仅在多个团队在一个帐户下工作时才相关)
- 目标页面、页面类型或页面组
- 更改(对正在测试的更改的简短描述)
- 目标受众(设备组、流量来源、地理位置等)
- 版本信息
一些例子:
亚马逊营销 – 优势 HP ATF – 移动 – V2(HP 代表主页,ATF 代表首屏)
亚马逊营销 – 在登陆页面上推广链接到评论 – 桌面
亚马逊产品 – 优先级 1 – 固定比较功能 PDP – 移动(重新启动)。
Silver Ringvee,首席技术官,Speero
确保您很好地使用了供应商支持
了解您可以联系支持团队的所有方式。 您需要一个反应迅速且知识渊博的团队来为您提供运行测试时所需的帮助。
确定您的计划中是否提供电子邮件、聊天和电话支持。
查看此 A/B 测试工具比较。 (请注意,Convert 为所有计划提供所有 3 种支持选项。)
此外,将您的 CSM 用作责任合作伙伴。 让他们知道您的目标,这样他们就可以在工具方面为您指明正确资源的方向。 如果您没有专门的营销人员或实验人才或需要咨询,您的供应商通常知道擅长使用他们的工具的专业人士。 并且很乐意做介绍。
6. 为您的 A/B 测试程序测量正确的输出
如果您不将 A/B 测试计划归因于收入增长,那么您似乎无法获得急需的关注。 通常,高管需要准确的数字来验证是否需要进行 A/B 测试。
“我们应该期待什么百分比的提升? 这会给今年的收入增加多少?”
但这不是实验的目的。 A/B 测试旨在为想法增加确定性或信心的衡量标准——假设是否正确。
事实上,这种方法可能会导致以下问题:
- 设定实际无法满足的期望,
- 仅将收益归因于 A/B 测试,而忽略其他关键参与者,
- 将失败的测试视为完全失败,而不是洞察什么有效(利润增长)和什么无效(风险缓解),
- 对测试结果进行不准确的推断。
话虽如此,您不想使用 A/B 测试工具来跟踪链接点击。 相反,选择正确的 A/B 测试目标。 并利用您工具的高级目标选项的力量来详细了解您正在跟踪的内容和原因。
以下是如何选择您应该跟踪的正确目标和指标:
- 从对您的业务重要的目标开始。 这样您就可以选择与业务目标一致的 A/B 测试目标。
如果企业的目标是通过获得更多客户来增加收入,那么您的实验应该着眼于产生潜在客户。
- 选择你的主要和次要目标。 主要是那些直接链接到业务目标的那些,例如应用程序下载和演示请求。
次要目标支持主要目标,因为它们是微转换,通常会导致在未来某个时间点实现次要目标。 这些可能与您的内容互动或注册时事通讯。
这里的想法是识别有助于实现主要业务目标的因素。
- 决定测量什么。 这些是您的关键绩效指标 (KPI) — 表明您与主要业务目标相关的指标。
当您认识到这一点时,就更容易实际衡量和改进那些直接影响业务正增长的指标。
如果你没有正确地设定你的目标,你要么庆祝没有动摇的小目标,要么不断投资于难以校准、设计、部署并最终看起来像失败的“大天空创意” . 平衡位于中间。
下一步
使用您的 A/B 测试工具来达到 100% 的容量并不总是可行的,但使用它为您的业务获得最大收益是您可以努力实现的目标。
第一步,如果您还没有选择一个或对您目前拥有的东西没有信心,那就是找到适合您需要的工具。 然后,有了这 6 种策略,就一路向上。
使用 Convert 预订演示以找出答案。
请求您的演示