著录项信息
专利名称 | 自动化测试构建方法 |
申请号 | CN200410089204.3 | 申请日期 | 2004-12-08 |
法律状态 | 权利终止 | 申报国家 | 中国 |
公开/公告日 | 2005-08-03 | 公开/公告号 | CN1648872 |
优先权 | 暂无 | 优先权号 | 暂无 |
主分类号 | G06F11/36 | IPC分类号 | G;0;6;F;1;1;/;3;6查看分类表>
|
申请人 | 上海科泰世纪科技有限公司 | 申请人地址 | 上海市浦东新区郭守敬路498号17号楼2层
变更
专利地址、主体等相关变化,请及时变更,防止失效 |
权利人 | 上海科泰世纪科技有限公司 | 当前权利人 | 上海科泰世纪科技有限公司 |
发明人 | 吴季风;张军;熊桂平;陈榕 |
代理机构 | 上海智信专利代理有限公司 | 代理人 | 王洁 |
摘要
本发明涉及一种自动化测试构建方法,其中,该方法包括:得到最新的被测试对象、得到最新测试程序、生成运行测试程序列表、运行相应的测试程序得到运行输出结果、生成原始出错测试程序列表、将该出错测试程序列表导入缺陷管理系统、生成测试构建报告并将测试结果输出、对相应的缺陷状态进行修改、在下一次测试构建过程开始时生成新的运行出错测试程序列表的步骤。采用以上步骤的自动化测试构建方法,使得缺陷的发现和修复后的验证都能自动完成,提高了开发和测试的效率,保证了一个开发团队共享统一的代码源,使得集成测试的效率大大提高,保证了执行过程的可靠性和缺陷定位的准确性,同时为产品的质量提供可供参考的依据。
1、一种自动化测试构建方法,其特征在于,所述的自动化测试构建方法包 括以下步骤:
(1)得到最新的被测试对象;
(2)得到针对该被测试对象的最新测试程序及其相应的标准输入信息和标 准输出信息;
(3)从软件缺陷的管理系统中得到运行出错测试程序列表,并根据该运行 出错测试程序列表,在步骤(2)得到的最新测试程序中剔除相应的测试程序, 生成运行测试程序列表;
(4)根据步骤(3)生成的运行测试程序列表运行相应的测试程序,得到 对应测试程序的运行输出结果;
(5)将步骤(4)中的测试程序的运行输出结果与相应的标准输出信息进 行比较,如果运行输出结果和标准输出信息不一致,则记录测试程序的名称, 生成原始出错测试程序列表;
(6)将步骤(5)生成的原始出错测试程序列表导入软件缺陷的管理系统;
(7)软件缺陷的管理系统处理步骤(6)导入的信息,并生成本次测试构 建报告;
(8)软件缺陷的管理系统将本次测试构建结果输出;
(9.1)版本控制工具记录开发人员提交的针对被测试对象进行缺陷修复的 文件名称信息;
(9.2)项目管理系统也同时记录相应的开发人员提交的针对被测试对象进 行缺陷修复的文件名称信息,并根据该信息建立缺陷修复记录;
(9.3)根据所述的缺陷修复记录,对软件缺陷的管理系统中相应的缺陷状 态进行修改;
(10)在下一次测试构建过程开始时,软件缺陷的管理系统生成新的运行 出错测试程序列表。
2、根据权利要求1所述的自动化测试构建方法,其特征在于,所述的得到 最新的被测试对象,包括以下步骤:
(1)如果被测试对象是源代码,则先获取最新的源代码,然后编译该源代 码,生成被测试对象;
(2)如果被测试对象是可以执行的文件,则直接获取这些文件。
3、根据权利要求1所述的自动化测试构建方法,其特征在于,所述的得到 针对该被测试对象的最新测试程序,包括以下步骤:
(1)如果测试程序为源代码,则先获取最新的测试代码,然后编译该测试 代码,生成测试程序;
(2)如果测试程序是可以直接执行的文件,则直接获取该测试程序。
4、根据权利要求1所述的自动化测试构建方法,其特征在于,所述的标准 输入信息为标准输入文件形式。
5、根据权利要求1所述的自动化测试构建方法,其特征在于,所述的标准 输出信息为标准输出文件形式。
6、根据权利要求1所述的自动化测试构建方法,其特征在于,所述的测试 程序的运行输出结果为运行输出结果文件形式。
7、根据权利要求1所述的自动化测试构建方法,其特征在于,所述的软件 缺陷的管理系统处理导入的原始出错测试程序列表信息,包括以下步骤:
(1)根据原始出错测试程序列表信息,软件缺陷的管理系统在进行相应处 理后给出提示信息,并将待处理的缺陷信息自动提交给用户;
(2)用户根据该提示信息对待处理的缺陷信息进行处理。
8、根据权利要求7所述的自动化测试构建方法,其特征在于,所述的软件 缺陷的管理系统在进行相应处理后给出提示信息,包括以下步骤:
(1)根据原始出错测试程序列表信息在软件缺陷的管理系统中进行查询, 如果该测试程序在软件缺陷的管理系统中没有记录,则根据具体情况产生“该 缺陷为一个新缺陷”的提示信息,或者产生“该缺陷为一种意外错误”的提示 信息;
(2)经过查询,如果该测试程序在软件缺陷的管理系统中有记录,则查询 其对应缺陷修复时间,如果该缺陷修复的时间是在上次测试构建之后,则根据 具体情况产生“在上次测试构建以后修复的该缺陷可能没有真正修复,修复验 证失败,该缺陷需要被再次设置为未修复状态”的提示信息,或者产生“该缺 陷为该测试程序发现的新缺陷”的提示信息;如果该缺陷修复的时间是在上次 测试构建之前,则根据具体情况产生“该缺陷是一个已经发现的缺陷再次复发” 的提示信息,并将与这个测试程序相关的缺陷内容提供给用户,或者产生“该 缺陷为该测试程序发现的新缺陷”的提示信息;
(3)对于在上次测试构建之后修复的缺陷没有再次出现在原始出错测试程 序列表中的测试程序,软件缺陷的管理系统产生“该缺陷已经被成功修复”的 提示信息。
9、根据权利要求8所述的自动化测试构建方法,其特征在于,所述的用户 根据该提示信息对待处理的缺陷信息进行处理,包括以下步骤:
(1)如果该提示信息表明该缺陷为一个新缺陷,则用户根据情况提交新的 缺陷,并且软件缺陷的管理系统自动将此缺陷和发现缺陷的测试程序名绑定;
(2)如果该提示信息表明该缺陷未修复成功,则用户将该已经修复的缺陷 状态设置为未修复状态;
(3)如果该提示信息表明该缺陷为再次复发的缺陷,则用户将该已经修复 的缺陷状态设置为复发状态;
(4)如果该提示信息表明该缺陷已经被成功修复,则用户将保持该已经修 复的缺陷状态不变。
10、根据权利要求7、8或9所述的自动化测试构建方法,其特征在于,所 述的用户为构建负责人或者软件缺陷的管理系统的其他用户。
11、根据权利要求1所述的自动化测试构建方法,其特征在于,所述的测 试构建报告包括本次测试构建新发现缺陷数量、正常修复缺陷的数量和复发缺 陷的数量报告,新发现的缺陷名称报告,正常修复的缺陷名称报告,复发缺陷 的名称报告,本次测试构建中测试程序发现缺陷的数量和测试程序累计发现缺 陷的数量的统计报告。
12、根据权利要求1所述的自动化测试构建方法,其特征在于,所述的软 件缺陷的管理系统将本次测试构建结果输出的方式包括通过Email将测试构建 结果信息发送给开发人员、提供一个固定的URL链接由开发人员访问并获取该 测试构建结果。
13、根据权利要求1所述的自动化测试构建方法,其特征在于,所述的根 据所述的缺陷修复记录,对软件缺陷的管理系统中相应的缺陷状态进行修改, 包括以下步骤:
(1)项目管理系统将该缺陷修复记录与软件缺陷的管理系统中的相应缺陷 之间建立关联关系;
(2)软件缺陷的管理系统根据项目管理系统的缺陷修复记录的关联信息将 相应缺陷的状态设置为已修复状态。
14、根据权利要求13所述的自动化测试构建方法,其特征在于,所述的将 本次测试构建过程生成的原始出错测试程序列表导入软件缺陷的管理系统的步 骤后还包括以下步骤:
(1)软件缺陷的管理系统根据该原始出错测试程序列表中的测试程序对应 缺陷和以往发现过的该缺陷的历史信息,在项目管理系统中通过所关联的缺陷 修复记录定位与该缺陷相关的代码文件;
(2)在项目管理系统中根据该缺陷相关的代码文件查询上次测试构建以后 的代码提交记录,确定相应的开发人员和记录;
(3)如果该缺陷是首次出现,则建立该缺陷与所关联的代码文件之间的耦 合度因子;如果该缺陷是重复出现的,则增加该缺陷与所关联的代码文件之间 的耦合度因子的值。
15、根据权利要求1所述的自动化测试构建方法,其特征在于,所述的软 件缺陷的管理系统生成的新的运行出错测试程序列表中的测试程序为所有被上 次测试构建过程发现的但还没有被修复的缺陷所对应的测试程序和新导入该软 件缺陷的管理系统的但还未被用户处理的缺陷所对应的测试程序。
16、根据权利要求15所述的自动化测试构建方法,其特征在于,所述的用 户为构建负责人或者软件缺陷的管理系统的其他用户。
技术领域\n本发明涉及计算机技术领域,特别涉及计算机环境中运行的软件管理过程 领域,具体是指一种自动化测试构建方法。\n背景技术\n测试构建是通过自动化的方式进行软件的测试。如果这个构建过程是每日 执行一次就是日构建(Daily Build)或者叫做每日集成,如果是每日多次就叫做 持续集成。\n一般的软件开发流程通常是,一个项目被分解后分配任务,由不同的人负 责不同的软件部件,在开发完成之后,再把各人的部件整合起来,形成完整的 软件,但是这种做法在实践中却有很多问题。\n首先,这种方式适合开发人员之间工作彼此没有交集的情况,以前这种现 象很常见,但是现在,随着软件规模的扩大、分工合作的加深,开发人员间的 相互依赖程度越来越高,这种清晰的职责划分已经变得越来越难了。\n其次,在软件集成时,往往会出现各种各样的问题,可是却很难发现到底 问题在哪里。似乎每个人的代码都没有问题,但结合到一起就出现大量的问题。\n所以日构建就将平时难得一见的集成工作转换成频繁进行的一件工作,从 而使得复杂的集成变成了一件简单的工作。通过以天集成,排除缺陷(Bug)就 变成一件很容易的事情了。\n测试构建的目的是为了发现缺陷,并可以在以后的测试构建中验证修复的 缺陷。在现有技术中,关于测试构建过程、缺陷管理等都有记载,但这几个部 分在现有技术中都相对独立集成。测试构建技术是软件质量保证的一个重要部 分,是对产品的自动测试过程。在公知的技术中有关于测试构建的知识和有关 于测试构建过程的流程,其中实现测试构建的一个基本前提是构建必需与版本 控制系统结合;对于缺陷管理系统,在公知的技术中一般是一个相对独立的系 统;对于项目管理系统,在公知的技术中一般也是一个相对独立的系统。\n现有测试构建的过程,因为和缺陷管理系统是独立进行的过程,这样每当 在测试构建中的测试程序发现缺陷时,这个缺陷需要另外记录和管理,同时为 了保证每次的测试构建只发现新问题,在原有的测试构建过程中需要手动使得 已发现缺陷并且尚未修复的测试程序停止运行。当缺陷被修复后,缺陷的管理 者会通知测试构建人员,再手动将那个发现缺陷的测试程序加入到下一次的测 试构建中,下一次测试构建过程会进行对这个缺陷修复情况的验证,如果还有 问题就又需要重复如上的操作。\n如上的流程都是手动的,对操作者来说,将会是非常繁重的工作。\n同时,在现有的缺陷管理系统中,由于其是一个自封闭的系统,只能记录、 跟踪和管理被用户手动填写到系统中的缺陷,当缺陷被修复后,只能通过用户 来将这个缺陷修复的状况报告出来,因此不能实现与测试构建过程的互动,不 能自动导入测试构建中发现的问题,不能将修复的缺陷自动加入到测试构建过 程中去验证。\n因此,现有技术中缺陷管理系统、项目管理系统与测试构建过程相对独立 的问题,使得自动测试过程和缺陷管理系统之间的信息共享和传递无法实现, 不能自动的解决软件过程中发现的缺陷和验证修复的缺陷,而且也不能自动实 现测试程序和被测试对象的对应的问题。\n发明内容\n本发明的目的是克服了上述现有技术中的缺点,提供一种基于缺陷管理的 自动化测试构建方法,该方法实现了测试构建和缺陷管理系统的集成,可以将 测试构建过程中发现的问题自动导入到缺陷管理系统中,在下一次测试构建中, 又可以将缺陷系统中经过处理的数据导出,来自动验证在上一次测试构建过程 后修复的缺陷,实现测试构建过程发现缺陷和验证修复缺陷的自动化。\n本发明的另一个目的在于提供一种基于版本控制工具、结合缺陷管理系统 和项目管理系统的自动化测试构建方法,该方法实现了项目管理系统和缺陷管 理系统的结合,使得在项目管理系统中通过代码的名字就可以自动访问代码在 版本控制工具上的源文件,同时实现了项目管理系统和缺陷管理系统的结合, 将测试程序和测试对象结合起来。\n为了实现上述的目的,本发明的自动化测试构建方法如下:\n该自动化测试构建方法,其主要特点是,包括以下步骤:\n(1)得到最新的被测试对象;\n(2)得到针对该被测试对象的最新测试程序及其相应的标准输入信息和标 准输出信息;\n(3)从软件缺陷的管理系统中得到运行出错测试程序列表,并根据该运行 出错测试程序列表,在步骤(2)得到的最新测试程序中剔除相应的测试程序, 生成运行测试程序列表;\n(4)根据步骤(3)生成的运行测试程序列表运行相应的测试程序,得到 对应测试程序的运行输出结果;\n(5)将步骤(4)中的测试程序的运行输出结果与相应的标准输出信息进 行比较,如果运行输出结果和标准输出信息不一致,则记录测试程序的名称, 生成原始出错测试程序列表;\n(6)将步骤(5)生成的原始出错测试程序列表导入软件缺陷的管理系统;\n(7)软件缺陷的管理系统处理步骤(6)导入的信息,并生成本次测试构 建报告;\n(8)软件缺陷的管理系统将本次测试构建结果输出;\n(9.1)版本控制工具记录开发人员提交的针对被测试对象进行缺陷修复的 文件名称信息;\n(9.2)项目管理系统也同时记录相应的开发人员提交的针对被测试对象进 行缺陷修复的文件名称信息,并根据该信息建立缺陷修复记录;\n(9.3)根据所述的缺陷修复记录,对软件缺陷的管理系统中相应的缺陷状 态进行修改;\n(10)在下一次测试构建过程开始时,软件缺陷的管理系统生成新的运行 出错测试程序列表。\n该自动化测试构建方法中的得到最新的被测试对象,包括以下步骤:\n(1)如果被测试对象是源代码,则先获取最新的源代码,然后编译该源代 码,生成被测试对象;\n(2)如果被测试对象是可以执行的文件,则直接获取这些文件。\n该自动化测试构建方法中的得到针对该被测试对象的最新测试程序,包括 以下步骤:\n(1)如果测试程序为源代码,则先获取最新的测试代码,然后编译该测试 代码,生成测试程序;\n(2)如果测试程序是可以直接执行的文件,则直接获取该测试程序。\n该自动化测试构建方法中的标准输入信息为标准输入文件形式。\n该自动化测试构建方法中的标准输出信息为标准输出文件形式。\n该自动化测试构建方法中的测试程序的运行输出结果为运行输出结果文件 形式。\n该自动化测试构建方法中的软件缺陷的管理系统处理导入的原始出错测试 程序列表信息,包括以下步骤:\n(1)根据原始出错测试程序列表信息,软件缺陷的管理系统在进行相应处 理后给出提示信息,并将待处理的缺陷信息自动提交给用户;\n(2)用户根据该提示信息对待处理的缺陷信息进行处理。\n该自动化测试构建方法中的软件缺陷的管理系统在进行相应处理后给出提 示信息,包括以下步骤:\n(1)根据原始出错测试程序列表信息在软件缺陷的管理系统中进行查询, 如果该测试程序在软件缺陷的管理系统中没有记录,则根据具体情况产生“该 缺陷为一个新缺陷”的提示信息,或者产生“该缺陷为一种意外错误”的提示 信息;\n(2)经过查询,如果该测试程序在软件缺陷的管理系统中有记录,则查询 其对应缺陷修复时间,如果该缺陷修复的时间是在上次测试构建之后,则根据 具体情况产生“在上次测试构建以后修复的该缺陷可能没有真正修复,修复验 证失败,该缺陷需要被再次设置为未修复状态”的提示信息,或者产生“该缺 陷为该测试程序发现的新缺陷”的提示信息;如果该缺陷修复的时间是在上次 测试构建之前,则根据具体情况产生“该缺陷是一个已经发现的缺陷再次复发” 的提示信息,并将与这个测试程序相关的缺陷内容提供给用户,或者产生“该 缺陷为该测试程序发现的新缺陷”的提示信息;\n(3)对于在上次测试构建之后修复的缺陷没有再次出现在原始出错测试程 序列表中的测试程序,软件缺陷的管理系统产生“该缺陷已经被成功修复”的 提示信息。\n该自动化测试构建方法中的用户根据该提示信息对待处理的缺陷信息进行 处理,包括以下步骤:\n(1)如果该提示信息表明该缺陷为一个新缺陷,则用户根据情况提交新的 缺陷,并且软件缺陷的管理系统自动将此缺陷和发现缺陷的测试程序名绑定;\n(2)如果该提示信息表明该缺陷未修复成功,则用户将该已经修复的缺陷 状态设置为未修复状态;\n(3)如果该提示信息表明该缺陷为再次复发的缺陷,则用户将该已经修复 的缺陷状态设置为复发状态;\n(4)如果该提示信息表明该缺陷已经被成功修复,则用户将保持该已经修 复的缺陷状态不变。\n该自动化测试构建方法中的用户为构建负责人或者软件缺陷的管理系统的 其他用户。\n该自动化测试构建方法中的测试构建报告包括本次测试构建新发现缺陷数 量、正常修复缺陷的数量和复发缺陷的数量报告,新发现的缺陷名称报告,正 常修复的缺陷名称报告,复发缺陷的名称报告,本次测试构建中测试程序发现 缺陷的数量和测试程序累计发现缺陷的数量的统计报告。\n该自动化测试构建方法中的软件缺陷的管理系统将本次测试构建结果输出 的方式包括通过Email将测试构建结果信息发送给开发人员、提供一个固定的 URL链接由开发人员访问并获取该测试构建结果。\n该自动化测试构建方法中的根据所述的缺陷修复记录,对软件缺陷的管理 系统中相应的缺陷状态进行修改,包括以下步骤:\n(1)项目管理系统将该缺陷修复记录与软件缺陷的管理系统中的相应缺陷 之间建立关联关系;\n(2)软件缺陷的管理系统根据项目管理系统的缺陷修复记录的关联信息将 相应缺陷的状态设置为已修复状态。\n该自动化测试构建方法中的将本次测试构建过程生成的原始出错测试程序 列表导入软件缺陷的管理系统的步骤后还包括以下步骤:\n(1)软件缺陷的管理系统根据该原始出错测试程序列表中的测试程序对应 缺陷和以往发现过的该缺陷的历史信息,在项目管理系统中通过所关联的缺陷 修复记录定位与该缺陷相关的代码文件;\n(2)在项目管理系统中根据该缺陷相关的代码文件查询上次测试构建以后 的代码提交记录,确定相应的开发人员和记录;\n(3)如果该缺陷是首次出现,则建立该缺陷与所关联的代码文件之间的耦 合度因子;如果该缺陷是重复出现的,则增加该缺陷与所关联的代码文件之间 的耦合度因子的值。\n该自动化测试构建方法中的软件缺陷的管理系统生成的新的运行出错测试 程序列表中的测试程序为所有被上次测试构建过程发现的但还没有被修复的缺 陷所对应的测试程序和新导入该软件缺陷的管理系统的但还未被用户处理的缺 陷所对应的测试程序。\n该自动化测试构建方法中的用户为构建负责人或软件缺陷的管理系统的其 他用户。\n采用了该发明的自动化测试构建方法,由于基于缺陷管理的测试构建过程 是将缺陷管理和构建过程有机结合起来,使得缺陷的发现和修复后的验证都能 自动完成,提高了开发和测试的效率,节省了人员的工作投入;由于缺陷管理 系统和项目管理系统也都是以源代码管理为基础,项目管理系统中的代码文件 名和缺陷管理系统中的测试文件名都可以自动链接到版本控制工具上的对应文 件,保证了一个开发团队共享统一的代码源;由于测试构建过程的结果会直接 导入到缺陷管理系统中,对于测试结果的细节可以完整的记录下来,并对于后 续的测试构建起到了指导作用,使得集成测试的效率大大提高;由于整个测试 构建过程全部是自动进行的,没有人为干预,同时缺陷管理系统和项目管理系 统的结合,可以自动定位测试程序和测试对象,因此充分保证了执行过程的可 靠性和缺陷定位的准确性;同时,由于通过测试构建系统与缺陷管理系统的结 合,可以将每次测试构建中发现的问题进行分析和统计,并通过柱形图,坐标 图等方式显示,为产品的质量提供可供参考的依据。\n附图说明\n图1为标准的测试构建过程模型流程图。\n图2为本发明的基于缺陷管理的测试构建过程模型流程图。\n图3为本发明的缺陷管理系统处理导入的原始出错测试程序列表信息的流 程图。\n图4为本发明的项目管理系统根据缺陷修复自动更改缺陷管理系统中的缺 陷状态的流程图。\n图5为本发明的版本控制工具、项目管理系统和缺陷管理系统结合共同建 立测试程序与被测试对象的关联关系的流程图。\n具体实施方式\n为了能够更清楚地理解本发明的技术内容,特举以下实施例详细说明。\n整个自动化测试构建方法全过程包含以下四个模块的结合:\n●版本控制工具\n●缺陷管理系统\n●项目管理系统\n●测试构建过程\n1.版本控制工具\n源代码是开发过程的主要组成部分,通过版本控制工具来管理源代码可以 统一整个开发团队的代码源。在公知的技术中有很多的版本控制工具,都可以 用来进行源代码管理。这里所指的版本控制工具的必须要具备如下特征:\n●可以进行文件的版本控制(用户可以进行文件的检入和检出操作)\n●有基于命令行的工具可以自动进行文件的检入和检出\n2.缺陷管理系统\n缺陷管理系统的作用是记录、跟踪和管理软件开发过程中发现的缺陷 (Bug)。在公知的技术中有很多缺陷管理系统。想要实现自动化测试构建方法 中的上述结合,缺陷管理系统必须增加如下特征:\n●可以记录和操作缺陷\n●缺陷必需具备状态(修复的缺陷还是没有修复的缺陷)、时间信息(修 复时间)和缺陷修复负责人等信息\n●缺陷可以与相应的一个测试程序关联,缺陷可以由测试程序发现(但大 多情况下,缺陷并不是通过测试程序发现的)\n3.项目管理系统\n项目管理系统可以将整个开发过程中的工作分解,同时开发过程中,开发 人员对版本控制工具上文件的更改,必须在项目管理系统中进行记录,通过访 问这些记录中的文件名就可以自动访问在版本控制工具上的代码内容。在公知 的技术中有很多项目管理工具。在本发明中实现的结合,项目管理系统必须要 具备如下特征:\n●项目管理系统中有工作划分\n●项目管理系统中工作的实施过程有代码的提交和记录,提交的代码可以 和与版本控制工具结合,所有提交到版本控制工具上的文件,在项目管 理系统中有Checkin记录,一个记录包括本次更改的文件有哪些(也就 是说可以有多个文件,这多个文件是一批的,完成某个特定功能),实 现什么样的功能\n●缺陷修复也是对代码的操作,在项目管理系统中提交记录时可以自动更 改缺陷状态\n4.测试构建过程\n测试构建过程,也就是自动化测试过程,它是通过自动完成以下几个关键 步骤而实现的:\n(1)获取(或者生成)最新的被测试对象(产品)\n(2)获取(或者生成)针对被测试对象的最新测试程序(该测试程序需要 事先编写好)\n(3)运行所有的测试程序\n(4)比较测试程序运行输出的结果,如果输出结果和预先给的标准输出不 一致,记录测试程序的名称\n(5)将发现问题的测试程序名输出\n一个参加测试构建的测试程序除了具有一般应用程序的特点之外,还必须 具备以下三个特征:\n●测试程序需要提前被编写\n●测试程序在执行时不需要用户干预。在执行过程中,不应要求用户输入 信息后再继续运行,否则就做不到自动化。考虑到这个特殊性,我们将 用户的输入信息用文件形式来替代,这个文件定义为标准的输入文件\n●测试程序在执行之前,需要预先给定一个标准的输出文件。这个文件内 容就是在被测试对象没有缺陷的情况下测试程序正常运行后的输出结 果,就类似一个标准答案,有了标准答案才能比较,才能知道每次测试 程序运行后的输出结果是否正确。\n●每个测试程序的运行结果都必需输出到一个文件中。一般程序的运行结 果是直接输出到屏幕的,这导致不能实现测试的自动化,我们定义这个 记录输出结果信息的文件为测试程序运行的输出结果文件。\n在本发明中,基于源代码版本控制工具结合项目管理系统和缺陷管理系统 的测试构建过程的特点如下:\n(1)测试构建过程可以通过脚本来控制,系统定时执行,整个测试构建过 程不需要用户干预。\n(2)每个参与测试构建的测试程序文件和标准输出文件需要提前被编写, 有时可能还包括标准的输入文件。\n(3)测试构建需要有一个对比过程,比较每个测试程序的实际输出和标准 输出的区别。\n(4)修复的缺陷可以在下一次测试构建过程中自动得到验证。\n(5)每次测试构建发现的错误可以被及时记录到缺陷管理系统中,发现问 题的测试程序不会继续参与下一次测试构建,保证每次测试构建都只会发现新 错误。\n(6)测试构建过程能够自动生成测试构建过程报告。\n下面结合附图进一步说明对各应用范例进行详细说明:\n1.标准的测试构建过程模型\n请参阅图1所示,测试构建的开始是通过一个可以定时执行的脚本来启动, 也可以手动执行。在一些公知的操作系统中大部分都有系统定时器或者计划任 务的功能,允许可以在某个特定时间激活一个可以执行的程序。\n(1)开始测试构建\n(2)获取最新的被测试对象(产品)\n●情况一:被测试对象是源代码\n■先获取最新的源代码\n■编译源代码,生成被测试对象\n●情况二:被测试对象是可以执行的文件\n■直接获取这些可执行文件\n(3)获取最新的测试程序及其相应的标准输入文件和标准输出文件\n●情况一:测试程序为源代码\n■获取最新的测试代码\n■编译测试代码,生成测试程序\n●情况二:测试程序可以直接执行\n■直接获取这些可执行的测试程序\n(4)运行测试程序,根据运行测试程序列表逐一运行测试程序,得到每个 测试程序的输出结果\n(5)对比每个测试程序的输出和标准输出,如果不同,标识出错\n(6)测试构建过程完成,输出测试构建报告,报告记录了所有发现问题的 原始出错测试程序列表。\n2.基于缺陷管理的测试构建过程模型\n再请参阅图2所示,该测试构建过程包括以下步骤:\n(1)在生成测试程序清单之前,结合缺陷管理的测试构建过程和标准的构 建过程没有区别,都要执行清理获取最新的被测试对象、获取最新的测试程序 的操作;\n(2)在获取了测试程序列表以后,基于缺陷管理的测试构建模型中增加了 从缺陷管理系统中获取以前记录的运行出错测试程序列表(这个列表中的测试 程序是每次测试构建过程自动累计加入到缺陷管理系统中的)的步骤。将前面 的测试程序列表中剔除从缺陷管理系统中获取的运行出错测试程序列表中的测 试程序,就生成了本次测试构建过程中必需的运行测试程序列表;\n(3)根据运行测试程序列表运行相应的测试程序,继续测试构建过程;\n(4)验证每个测试程序的输出,并将记录的输出结果文件与预先给的标准 输出文件进行比较,将其中结果不一致的测试程序名称记录下来,生成原始出 错测试程序列表;\n(5)将上述的原始出错测试程序列表导入到缺陷管理系统中;\n(6)在缺陷管理系统中,自动处理上述导入的信息,生成本次的测试构建 报告。\n进行了上述操作步骤,缺陷管理系统就记录了每次测试构建过程中运行出 错的测试程序名称,这些测试程序将不会继续在下一次测试构建过程中参加运 行,这样提高了测试构建的效率,也有利于测试构建过程发现新的缺陷。\n通过将缺陷管理系统与测试构建过程的上述结合过程,每次发现缺陷的测 试程序被缺陷管理系统记录下来,在下一次测试构建过程中,被记录的测试程 序不参加运行,但缺陷管理系统还没有对缺陷进行有效管理。不过这个测试构 建过程已经可以生成包括如下的内容的测试构建报告:\n●新发现问题的测试程序名称\n●出错测试程序数量\n●对比以前的数量,生成对比统计图\n再请参阅图3所示,基于缺陷管理的测试构建过程模型中,在测试构建完 成后,将原始出错测试程序列表导入到在缺陷管理系统中,而在缺陷管理系统 中,对于新导入的上述列表,统一进行如下处理:\n(1)将本次新发现的测试程序问题,缺陷管理系统在进行相应处理后给出 提示信息,并将待处理的缺陷信息自动提交给构建负责人进行处理。这种提示 信息包括如下几种情况:\n●如果这个测试程序在缺陷管理系统中没有记录,则提示信息为:\n■可能是将其确认为一个新缺陷\n■可能是一种意外错误\n●如果这个测试程序在缺陷管理系统中有记录\n■如果缺陷修复的时间是在上次测试构建之后,则提示信息为:\n◆可能在上次测试构建以后修复的缺陷可能没有被真正修复,修 复验证失败,该缺陷需要被重新设置为未修复状态\n◆可能此测试程序发现的缺陷为新的缺陷\n■如果缺陷修复的时间是在上一次测试构建之前,则提示信息为:\n◆可能是一个已经发现的缺陷再次复发,并将与这个测试程序相 关的缺陷内容提供给构建负责人\n◆可能此测试程序发现的缺陷为新的缺陷\n●对于在上一次测试构建之后修复的缺陷没有再次出现问题的测试程 序(即没有再次出现在原始出错测试程序列表中的测试程序),系统 将这些缺陷的名字提示给构建负责人,并提示说明这些缺陷已被成功 修复。\n(2)构建负责人对如上的提示信息进行处理,可能会有以下几种操作:\n●提交新的缺陷(系统自动将此缺陷和发现缺陷的测试程序名称绑定)\n●将一个已经修复的缺陷状态设置为未修复状态。\n●将一个已经修复的缺陷状态设置为复发状态。\n(3)生成以下测试构建报告:\n●本次测试构建新发现缺陷数量、正常修复缺陷的数量和复发缺陷的数 量报告\n●新发现的缺陷名称报告\n●正常修复的缺陷名称报告\n●复发缺陷的名称报告\n●统计测试程序发现缺陷的数量,可以包括本次的和累计的报告\n(4)将测试构建结果输出,测试构建完成,这个输出可以同时采用如下两 种方式:\n●发送的方式。它一般是通过Email将如上信息发送给开发人员,可以 保证信息的及时传递\n●让开发人员取的方式,就是将一个固定的URL链接提供给开发人员 访问,让他们来获取输出的结果信息(一般来说,这种方式是必需的, 这次记录可以做为系统日志保留,也可以用于和以后的测试构建结果 进行比较)\n(5)在下一次测试构建过程开始时,缺陷管理系统会产生新的运行出错测 试程序列表,并将其输出至测试构建过程,该列表中的测试程序为:\n●所有发现缺陷但缺陷还没有被修复的测试程序\n●新导入的但还未得到用户处理的测试程序\n该基于缺陷管理的测试构建过程模型中,其用户可以为构建负责人,也可 以为缺陷管理系统中的其他用户。\n3.缺陷管理系统与项目管理系统结合的缺陷修复的自动验证构建过程模型\n版本控制工具负责代码的管理,软件项目的重要工作内容是编写和更改产 品的代码,代码之间的关系不是完全孤立的,一组(一个或者多个)源代码是 用来实现或者完成一个功能,所以代码的添加或者更改往往是批量进行的,这 样的更改对我们工作的记录是有意义的,所以我们在更改了版本控制工具上的 代码的同时,将这些代码还记录在项目管理系统中,并要求提交者给出这批代 码提交的用途、完成什么样的功能等相关信息。如上的说明阐述了两件事情, 一个记录可以是包括多个代码文件,另外一个是代码的更改需要另外的系统记 录。\n在如上结合的基础上,进一步实现项目管理系统和缺陷管理系统的结合。 首先,开发的最初阶段只是添加代码,这些代码是为了实现一个一个功能,但 这些代码实现的功能可能存在不足,或者说已经添加的代码与预期的功能不相 符,这就是所说的发现了缺陷,我们将这个缺陷记录到缺陷管理系统中,这时 缺陷管理系统会针对该缺陷给定一个唯一的编号,并提示要实现这个功能的开 发人员进行缺陷的修复。之后开发人员进行修复缺陷的过程其实还是对代码的 操作,通过更改和删除原来代码,也可能是增加新的代码来完成。完成后的操 作又是一组代码的提交(添加、更改和删除都是提交),这个提交又被记录在项 目管理系统中,同时又要求提交人员记录这次更改,这次的记录方式和开始阶 段阶段的工作几乎相同,唯一的区别这次更改的目的是为了修复一个已经存在 的缺陷,因为每个缺陷有唯一的编号,所以这次记录的提交会在提交的同时做 另外一件事情,就是更改缺陷管理系统中这个编号所对应缺陷的状态,从未修 复状态,转为修复状态。\n再请参阅图4所示,根据缺陷修复的信息,对缺陷管理系统中相应的缺陷 状态进行修改,需要包括以下步骤:\n(1)版本控制工具记录开发人员提交的进行缺陷修复的代码的文件名称信 息;\n(2)项目管理系统同时也记录相应的开发人员提交的进行缺陷修复的代码 的文件名称信息,并根据该信息建立缺陷修复记录;\n(3)项目管理系统将该缺陷修复记录与缺陷管理系统中的相应缺陷之间建 立关联关系;\n(4)缺陷管理系统根据项目管理系统的缺陷修复记录的关联信息将相应缺 陷的状态设置为已修复状态。\n按照上述步骤实现了项目管理系统和缺陷管理系统的结合后,记录提交就 可以自动更改缺陷的状态,但这次更改是否有效,还需要对这此更改进行验证。 而此时测试构建恰恰可以进行这个验证,测试构建在开始时先将修复的缺陷所 对应的测试程序加入到本次测试构建中,在测试构建过程中检查这个测试程序 的运行结果是否正确,如果正确,则提示信息为这次缺陷修复是正确的;如果 不正确,提示信息为这此修复工作可能失败。这里说的提示信息只将这种情况 作为最大的可能性提交给用户处理,而不是自动将上次修复的缺陷自动从修复 状态转为未修复状态,因为我们要考虑到这个测试程序在这次测试构建中可能 发现了新的错误,所以状态的更改是需要在用户确认后才能进行的。\n4.缺陷关联和项目管理系统结合的测试构建过程模型\n测试一般分为两个部分,测试程序和被测试对象,对于来说测试程序一般 是比较确定的,但测试对象大多数是不能确定的,通过如上某个缺陷的编号和 某批提交的代码关联,加之测试程序与缺陷的关联,就实现了测试程序和某批 提交的代码关联,也就实现了测试程序和被测试对象的关联。\n再请参阅图5所示,在项目管理系统和缺陷管理系统之间建立测试程序与 被测试对象的关联包括以下步骤:\n(1)缺陷管理系统根据该原始出错测试程序列表中的测试程序对应缺陷和 以往发现过的该缺陷的历史信息,在项目管理系统中通过所关联的缺陷修复记 录定位与该缺陷相关的代码文件;\n(2)在项目管理系统中根据该缺陷相关的代码文件查询上次测试构建以后 的代码提交记录,确定相应的开发人员和记录;\n(3)如果该缺陷是首次出现,则建立该缺陷与所关联的代码文件之间的耦 合度因子;如果该缺陷是重复出现的,则增加该缺陷与所关联的代码文件之间 的耦合度因子的值。\n按照上述步骤建立的关联,可能这个关联不是非常清晰的一对一关系,但 可以做为一种依据。当一个测试程序在新的测试构建中再次发现问题,并被记 录到缺陷管理系统时,缺陷管理系统会根据这个缺陷以往发现过缺陷的历史, 定位与之相关的代码文件,在项目管理系统中查询上次测试构建以后的代码提 交记录,就可以初步确定缺陷引入的人员和记录,从而可以自动给出是谁在哪 一次的代码提交时引入这个缺陷的提示。另外每次的确认过程可以用来更改耦 合度因子,在某个缺陷重复出现时增加相应的耦合度因子的值,使得重新出现 的缺陷能自动的在项目管理系统中被标识和定位。\n此过程模型将项目管理和缺陷管理结合起来,使得项目在开发中的代码记 录在版本控制工具中,并同时在项目系统中记录这些代码的名字,在项目管理 系统中通过代码的名字就可以自动访问代码在版本控制工具上的源文件。项目 管理和缺陷管理的结合,可以将项目中的缺陷记录在缺陷管理系统中,在项目 管理系统中对与某个缺陷修复提交的记录就会自动转化为修复缺陷系统的特定 缺陷记录,并且这个过程可以自动完成的。此外,由于这个缺陷是在测试构建 过程中的某个测试程序发现的,所以这种结合就可以将测试程序和测试对象(修 复缺陷的一组代码)结合起来。\n实现如上的测试构建过程的方法,除了项目管理系统和缺陷管理系统结合, 还需要一些脚本文件的支持:\n●从版本控制工具中获取最新的代码执行脚本\n●自动编译脚本\n●从缺陷系统中获取不参加本次构建的测试程序清单执行脚本\n●将构建后的测试程序清单和构建日志写入到缺陷管理系统执行脚本\n●自动处理缺陷系统中的信息并进行与前一次构建对比汇总脚本\n●自动Email发送脚本\n采用本发明的基于缺陷管理的自动化测试构建过程方法具有如下的优点:\n1.统一代码源\n保证整个开发团队共享统一的代码源,将所有人的代码都归总到一起,这 是测试构建的基础,缺陷管理和项目管理也都是以源代码管理为基础,项目管 理系统中的代码文件名和缺陷管理系统中的测试文件名都可以自动链接到版本 控制工具的对应文件上。\n2.有利于集成测试\n测试应该全部执行完毕,而不是遇到测试运行的错误就放弃测试过程。测 试结果中包括有成功的测试信息、失败的测试信息和失败的测试的细节信息。 最后的结果将通过某种方式通知给相应的开发人员,要求他们修改设计或测试 (如果是测试本身的问题的话)。\n3.提高发现缺陷的效率和工作效率\n如果测试构建是每日执行(日构建),可以在最快的时间发现当日提交的代 码更改产生的缺陷,早发现早清除,可以大大提高产品的效率。另外修复的缺 陷可以在下一次测试构建过程中自动得到验证,免去了验证过程的工作量。\n4.保证执行过程的准确性\n整个测试构建过程全部是自动进行的,没有人为干预,充分保证了执行过 程的可靠性和准确性。同时缺陷管理和项目管理结合,可以测试程序和测试对 象进行自动定位。\n5.对比每次构建结果,保证产品质量\n通过与缺陷管理系统的结合,可以自动记录每次测试构建中发现的问题, 而缺陷管理系统可以对此进行分析和统计,通过柱形图,坐标图等方式将结果 显示出来,为产品的质量提供可供参考的依据。\n在此说明书中,本发明已参照其特定的实施例作了描述。但是,很显然仍 可以作出各种修改和变换而不背离本发明的精神和范围。因此,说明书和附图 应被认为是说明性的而非限制性的。
法律信息
- 2017-01-25
未缴年费专利权终止
IPC(主分类): G06F 11/36
专利号: ZL 200410089204.3
申请日: 2004.12.08
授权公告日: 2007.11.07
- 2007-11-07
- 2005-09-28
- 2005-08-03
引用专利(该专利引用了哪些专利)
序号 | 公开(公告)号 | 公开(公告)日 | 申请日 | 专利名称 | 申请人 | 该专利没有引用任何外部专利数据! |
被引用专利(该专利被哪些专利引用)
序号 | 公开(公告)号 | 公开(公告)日 | 申请日 | 专利名称 | 申请人 | 该专利没有被任何外部专利所引用! |