[钉科技专访]移动互联网的“跳跃式”发展,使得近两年来,在包括手游、社交、电商等细分领域的创业团队开始进入“获利”阶段,然而,“野蛮生长”的红利期逐渐过去,行业成熟带来的竞争加剧和用户增长瓶颈也使得产品运营进一步转向精细化。
与此同时,移动应用测试也从之前的相对温和期进入快速发展阶段。在这种形势下,作为移动应用云测试市场先头部队的Testin云测,随着自己的B端用户“同步”展开精细化运营,以“让App好用”为“小目标”,上线Bug探索业务,业务目前已经升级至2.0版本。
解决Bug的“最后一公里”
成立于2011年,作为全球首家推出基于真机测试实验室及自动化技术的“云测试”服务平台,Testin产品包含兼容测试、功能测试、压力测试、安全测试、A/B 测试、体验测试、崩溃分析以及移动应用发布后持续的质量监控。涵盖包括App开发、发布、分析等所有环节以及众包测试、性能管理等多领域,实现应用生命周期持续迭代的一站式测试服务,正是其精细化运营的体现。
Testin将常规测试之外的探索性测试做为了一块业务,其目的在于“发现意想不到的Bug”,因此将这块业务命名为“Bug探索”。在相应服务上线时,Testin也曾提出过“解决Bug‘最后一公里’”的概念。
Testin总裁徐琨
据总裁徐琨介绍,Bug探索的意义和作用,有如下几个方面:
1.让测试工作脱离常规用例,深度挖掘应用中不易被发现的Bug,确保产品质量稳定,提升产品体验;
2.多人大面积验证核心功能,通过发散性测试,模拟各种异常场景和极端测试方法,找出各类潜在问题和风险;
3.Bug探索能够对Bug进行等级管理,对于发现的问题提供详细的问题描述,包含问题日志、截图、视频等信息,帮助研发人员快速解决并修复问题。
测试专家版“大家来找茬”
Bug探索,以众测模式展开,跳开“用例测试”对测试路径的规划和结果的预期,寻找更多随机甚至是小概率的可能性,作为探索性测试,更像是“大家来找茬”,不同之处在于,这是一场由专业的测试团队,有目标有体系,共同参与的“大家来找茬”。
Testin在业内能够率先上线Bug探索业务,其优势之一,就体现在“大家”上,当然,这里所说的“大家”,不仅仅是指“人”:
首先是测试专家群体。近16万,这是Testin总裁徐琨给出的Testin平台上专业测试人员的数量,这些专业的测试人员被根据不同应用分为50多个大类,每个大类又分为若干大组,每个大组的人数都在3000至20000的区间内,人员在组别间会有交叉。人数,首先保证了Testin能够适应多应用的探索性测试,同时能对大型应用进行深度“穷举”;分组,则使得人员对接更加精确。另外,也可以解决App在不同地域、不同环境下使用的问题。
其次是数据量的积累。服务80万开发者,完成对200万App累计1.5亿次的测试,提供给市面上80%的App专业测试服务,使得Testin积累下大量测试经验数据。帮助Testin训练自己的机器学习模型,将人工智能技术加入到测试环节,提升测试效率只是一个方面,此外,也可以帮助平台上的测试人员完善认知。
借助Bug探索,不少有着相当大用户和潜在用户量的应用得以完善。例如,在国内最早涉足手机直播的“趣播”,应用的社交属性伴随着巨大的用户想象空间,作为创业团队,“各地不同的网络环境”以及“不同型号安卓手机的兼容性”成了测试的主要难点;有着大量学员的新东方在线,遇到的也是这方面的问题。而Testin,正是通过Bug探索,帮助客户解决了这些问题。
“破窗而入”,发现意想不到的Bug
模拟真实用户角度,结合团队测试经验,最大限度探索用户使用习惯和路径,探索复杂操作流程;真实模拟异常应用场景及系统特有功能,确保主要功能使用流畅,避免影响用户体验的问题,发现研发人员不易发觉的Bug,这是Bug探索的目标。因此,测试软件功能在异常场景下(或者相对的“小概率”场景下)操作是否正常,就成了Bug探索的主要工作模式。测试人员在这个过程中,会采用等价类测试方法、边界值测试方法、错误推测法、取消测试方法、逆向测试方法、错序测试法等测试方法。
相对于标准测试,Bug探索更需要的是“打破常规”。徐琨这样描述他本人对于Bug探索的看法,如果把App测试看成一个进入房间的过程,标准测试是按一般思路从门进入,Bug探索要做的,可能是“破窗”,也可能是“挖掘地下通路”,总之,就是要尽可能尝试“进门”之外的其它各种路径。
以登录应用为例:标准测试一般只需要验证用正常的11位手机号码和密码登录应用时,App反应是否正常,而在Bug探索中,为验证App反应是否正常同时为探知此前不容易发现的问题或漏洞,测试人员就有可能输入一个非标准的登录号码,比如其位数只有个位,甚至不输入或者输入一个负数进行探索。
Bug探索由相关应用领域经验丰富的专家带团队参与探索性测试,提供15/50/100/200人四档模式。在进行一轮探索后,客户方修改发现的bug并转给Testin回归修改的bug,测试专家根据需求再发出探索任务。
“Uber模式”,规范测试操作流程
Bug探索采用的运营模式,整体看来与网约车类似,很像滴滴或者Uber,甚至也可以算是一种近似于时下颇为火热的共享单车的一种“共享经济”形式。
采用这种模式,对于Testin而言,主要有两方面考虑:首先,在“人工智能”尚不成熟的阶段,能够真正理解用户体验和需求的,依旧是人本身;其次,更多的测试者才能更好满足用户需求,而作为创业团队,人员一定是有限的。
Bug探索最初的模式是由Testin发布任务,由众测平台上的测试人员抢单,完成任务后领取报酬。当然,应用测试相比网约车更为复杂,还要包括比较细致的“测试后”工作,主要是将数据进行整合、清理、分析、形成报告。
Bug探索2.0版本,目前已经迭代上线,相比初始版,主要是在测试者的运营管理层面更为精细化,整体上是对测试团队、测试流程和标准的进一步规范:
1.架构测试者评价系统,对测试任务评级,对测试结果打分,对测试人员进行系统性分类,配合精确的筛选机制;
2.产品形态升级,主要是测试报告可读性的增强,从而增强测试后用户方面的可操作性,例如对Bug的等级划分,对数据进行更细分的模块化管理,完整提供测试过程记录等等;
3.提供订制服务,从而满足不同客户或者客户在不同产品阶段的需求。
另外,Testin 交付质量小组会对每次测试任务进行考核,并为测试专家打分,累计两次考核不合格者将取消其专家资格;Testin 平台会收集测试专家反馈,定期清理测试能力不达标或表现较差的测试者,保证每一次测试的交付质量。
现在的Testin,业务已经从App领域,向移动页面、公众号、小程序、智能硬件等方面扩展,其颇为感兴趣的两个领域是人工智能和万物互联,特别是后者,将会给软件测试领域首先带来新的增长点。可以想到的是,Bug探索的产品模式,依旧会是Testin切入相关市场的“前锋”。