A/B 测试:以变应变,给用户更好的体验“宠爱”
企业能怎么使数据运营产生价值?本文为大家介绍了通过应用行为分析和 A/B 测试,最大化提升价值产出与效率的方法。只有通过实验不断地积累数据运营的经验,才能逐步达成精细化运营的目标,推荐想要提升数据运营能力的同学阅读。
伴随着企业数字化转型进程的加速及用户行为分析理念的深入,各种各样的数据分析模型,比如事件分析、漏斗分析、留存分析等,早已成为企业日常运营不可或缺的“小助手”。
作为大数据分析与营销科技服务提供商,在我们过去服务客户的过程中,逐渐意识到,数据分析只是企业数字化转型过程中的一环,要想让数据真正对企业产生价值,应该将基于数据流的决策、行动与反馈统统加入进来,也就是基于数据流的企业运营框架 SDAF,即 Sense(感知)、Decision(决策)、Action(行动)、Feedback(反馈),形成一个完整的业务价值产出闭环。
当我们进一步思考,为什么 SDAF 是个环,而且是多个持续不断的环呢?
这时候我们会发现,这是因为普遍存在两个痛点:一是目标不精确,可能会导致行动失准、产出失效;二是手段不精确,可能会导致最终产出小于投入。这不仅是因为我们自身的认知有限,用户本身也十分“善变”。
也正是因此,我们希望将 A/B 测试与用户行为分析结合,带来应对用户变化的解决方案,最大化提升价值产出与效率,持续优化、持续迭代,给用户带来更好的体验“宠爱”。
那么,我们如何应用行为分析和 A/B 测试,达到良好融合、最大化提升价值产出的效率呢?用通俗的话语进行描述,那就是:“像投资人一样找杠杆,像科学家一样做试验。”而要找到杠杆,首先得理解我们的目标是什么。如果从用户行为的角度来描述目标,可以分为一次性行为和周期性行为。
一次性行为:我们希望用户尽可能发生单个目标行为,且这类行为通常非常关键,可以为后续的产品使用打下坚实基础,常见如用户注册、首单支付、实名认证等等。这类行为对应着我们的业务目标是“转化”,即让更多用户沿着正确路径达成目标事件。
周期性行为:我们希望用户尽可能多次发生某个行为,或者发生的程度更深,通常是体现产品核心价值的行为,常见如支付订单、浏览内容等等。这类问题通常对应的业务目标是“参与度”或“留存”,即让用户更多更深入地做某件事情。
接下来我们将基于 SDAF 闭环运营框架,详细为大家介绍 A/B 测试与用户行为相结合的应用实践。
一、Sense:使用行为分析模型,感知用户行为
对于用户的一次性行为,我们的业务目标是让更多的用户沿着正确的路径做某个事情。可以通过以下模型进行观测:
- 漏斗分析:严格规定的路径上,用户流失情况如何?
- 路径分析:用户群体的实际行为路径如何分流?
- 行为序列:用户个体的实际行为路径如何跳转?
对于周期性的行为,我们的业务目标是让用户更多更持久地做某件事,并形成习惯。可以通过以下模型进行观测:
- 留存分析:用户行为的发生在时间上的持续性如何?
- 分布分析:用户行为的发生频次(强度)如何?
二、Decision:基于观测数据,正确使用数据做决策
只有数据是很难产生价值的,所以完成了 Sense 之后,需要做进一步的解读与决策。我将数据应用总结为以下三点:
除此之外,比数据应用重要的事情是知道事情怎么做?要描述好这个事情,我通常会列出两张表。
第一张表叫做:为什么?如果我们对于要解决的问题有更准确的认识,解决起来的效果当然是较好的,因此可以从动力、阻力、时机等角度罗列可能的原因,并做一些主观上的排序。
第二张表叫做:怎么办?针对于这些具体原因,我们可以列出可能的方案或者方案的方向。最终使用 ICE 模型(Impact 影响范围、Confidence 自信程度、Ease 实现难易)进行主观排序,确定最近的一段时间,我们要做的试验是什么。
比如针对电商场景,我们可以梳理出电商的核心路径,并找到核心路径上的薄弱环节,或者杠杆指标,并进一步定位我们的关注点。
当定位到某个问题页面或者模块之后,我们会进一步列出为什么和怎么办。比如我们在数据分析中诊断出某电商的轮播图模块存在转化问题,该模块靠后的几张广告的渗透率急剧下降,且经评估我们认为该模块的重要度比较高,我们就可以进一步针对其列出以下列表:
三、Action:基于业务决策,实施 A/B 测试
当我们已经有了比较具体的试验方向,就可以进一步设计试验本身的细节,去罗列出试验实施的几个要素:
- 试验的假设:我们所认为的目标和手段之间的因果关系。(改动什么会影响什么?原因是什么?)
- 试验的变量:具体的改动元素,通常是单一元素,方便归因。
- 试验的指标:评估试验成败的指标及其相关指标。
- 试验的受众:具体实施试验的用户对象。
四、Feedback:分析试验数据,获取反馈与认知
“反馈”的字面含义,指的是我们从试验结果中获得的直接结论,即各试验组是否有差异,哪组策略更好或是更坏。而“认知”却是更深一层的,即我们学到的、可以被沉淀的知识。
比如在我司客户的某个电商场景中,对于奢侈品的图片加上各种相关标语的大图版本,从数据上来看转化率是更差的,这是“反馈”。而奢侈品类产品的大图中加上标语,对用户来说受到了注意力干扰,影响到体验产品的美感,这是“认知”。
在统计学中讲到,“即使数据上存在显著差异,我们无论接不接受新的方案,都是有概率犯错误的。”也就是说,反馈可能是错误的。
更要命的是,即使我们得到的反馈是对的,也可能在认知上犯错误。比如我们错误的认为,奢侈品的大图上不加标语是更好的,但实际上,只是不能只加优惠政策类标语,因为这看起来会很山寨,影响客户的信任度,恰当添加标语也可以提升信任度。
基于反馈,我们可以判定最近的试验是否有效,基于认知,我们也可以沉淀更多可累积的经验。
就像企业一直追求的精细化运营,其背后就是这种聚沙成塔式累积的效应,能够帮助我们累积得更多,走得更远!
本文由 @神策数据 原创发布于运营派。未经许可,禁止转载。
题图来自 Unsplash,基于CC0协议。