更多技术交流、求职时机,欢迎重视字节跳动数据渠道微信大众号,回复【1】进入官方交流群

A/B 测验产品可以说是企业科学决策的根底“设施”,可以协助企业快速迭代产品。

在字节跳动,每一个产品功用上线前,都会先在火山引擎 A/B 测验产品 DataTester 上进行小流量验证,结合事务逻辑对成果的分析理解策略收效进程,而后再对方案进行修正、尝试立异,推进整个产品和事务的持续迭代。

抖音上,早期有一个功用“弹幕”功用想象,意图是强化熟人交际的互动性,产品团队希望环绕熟人交际进行功用拓宽,以激励用户多看视频、多发著作。

产品团队学习长视频的弹幕功用提出了一个主意——在抖音短视频中添加弹幕互动的功用,当用户观看熟人(好友)的短视频著作时,该视频的相关谈论经过弹幕的形式展现,让用户有更多的互动时机并感受互动的快乐。

这个功用设计初衷是很好的,但它关于产品所带来的影响是正向仍是负向,需求经过 A/B 试验进行评估验证。DataTester 就协助团队快速试错,避免了不合适的功用上线后为产品带来的负向影响。

如图所示,该团队在 DataTester 中设计了这样一个试验:

应用火山引擎 DataTester“避坑”,抖音实现用 A/B 实验快速试错

  • 图一是对照组,产品界面保持抖音原样,没有弹幕功用。

  • 图二是试验组 1,因为弹幕功用对抖音而言是大型改动,会直接影响产品主界面布局,所以产品团队在试验组 1 中做了一个激进的尝试,他们将视频的文字描述区域悉数去掉,替换为弹幕互动功用;与此同时,为了界面的漂亮简练,将抖音右侧本来的互动区收入了“更多”的按钮中。

  • 图三是试验组 2,为了削减产品改动过大对用户带来的不确定影响,这个版本的产品设计保留了产品原有的互动等其它功用。

从 DataTester 的试验成果数据看,两个试验组的互动率的确有着明显提高,达到了功用设计时“提高互动率”的初衷。但调查新方案对抖音大盘中心目标影响时发现,这个功用对抖音全体视频的浏览量、用户投稿率、用户全体留存率均有负向影响,上述目标均出现了不同程度的下降。A/B 试验清晰地标明,这个功用虽然能提高抖音的互动率,但却不利于用户的全体使用与留存。因此这个看上去很好的改动并未在抖音全量上线。

之后,抖音环绕弹幕类的产品优化探究并未中止,经过更屡次的假定与 A/B 试验验证,这个功用后来加入了抖音的个人页位置中。当它被放在了恰当的位置,也能为产品的目标带来正向的提高。从这个事例中也可以看到,DataTester 起到了协助事务实现科学决策的才能,事务可以大胆立异的同时,也能科学验证每次立异是否真实有用。

像这样的 A/B 试验,在字节跳动已经敞开了 150 多万次,每天都有 2000 多个新的试验上线,在 DataTester 上同时运行的试验有 3 万多个。

作为字节跳动内部使用多年的 A/B 测验渠道,DataTester 有支撑多种杂乱 A/B 试验的才能和科学的分流才能。它可以深度耦合推荐、广告、查找、UI、产品功用等多种事务场景需求,为事务增加、转化、产品迭代,策略优化,运营提效等各个环节提供科学的决策依据。

目前,火山引擎 DataTester 已经对外服务了美的、得到、凯叔讲故事等在内的上百家标杆客户,将成熟的 ” 数据驱动增加 ” 经验赋能给各行业。

点击跳转 火山引擎A/B测验DataTester 了解更多