性能测试是与时间相关的。
主要内容
- 性能测试基础
- 概念和术语介绍
- 性能测试模型
- 性能测试分类介绍
- 性能测试实施与管理
性能测试基础
为什么要进行性能测试(WHY)(最重要)
- 应用程序是否能够很快的响应用户的要求?
- 应用程序是否能处理预期的用户负载并有盈余能力?
- 应用程序是否能处理业务所需要的事务数量?
- 在预期和非预期的用户负载下,应用程序是否稳定?
- 是否能够确保用户在真正使用软件时获得舒服的体验? 问题的根源一般是: 在多种平台上的数百个服务器;异构系统、多种应用;数千个工作站;局域网、广域网和 其它分类型的分布式网络体系机构;交错的故障点。 误区:提高一下硬件配置就可以提高性能了,因此性能测试不重要? 该说法是错误的。只能是临时解决问题,而不能从根本上解决问题。
进行性能测试时,要关注什么?(WHAT)
- 并发用户数、吞吐量
- 平均响应时间
- 服务器资源占用情况
- 可靠性、可扩展性
- 发现引起系统问题的原因,关注采用何种技术提高系统性能
- 软、硬件配置是否合适(容量规划、硬件选型)
谁来关注?(WHO)
- 开发人员
- 系统架构:架构是否合理?
- 数据库设计:数据库设计是否存在问题?
- 代码:代码是否存在性能问题?系统中是否存在不合理的内存使用方式?
- 设计和代码:系统中是否存在不合理的线程同步方式和不合理的资源竞争?
- 系统管理人员
- 资源利用率:应用服务器和数据库使用状况合理吗?
- 系统容量:系统最多能支持多少用户的访问?最大的业务处理量是多少?
- 系统稳定性:系统能否支持7*24小时的业务访问?
- 系统可拓展性:系统能否实现拓展?系统性能可能的瓶颈在哪?
- 用户
- 响应时间过长会是用户烦躁不安(3/5/8)。
- 系统稳定性:出现HTTP 500 错误或数据库崩溃会让用户对系统失去信心。
- 业务人员
- 参数:如何向用户提供参数,例如:支持多少用户使用?响应时间是多少?
- 测试人员
- 以上都要关注
- 能否发现系统中出现的瓶颈?
- 能否真实有效的评估系统性能能力?
关注的领域主要是?(WHERE)
- 能力验证
- 性能测试中最简单也是最常用的一种。主要关心:在给定的条件下,系统能否具有预期的表现?
- 规划能力
- 主要关心:应该如何才能使系统具有我们要求的性能能力?
- 性能调优
- 性能调优活动回合其他领域的活动交杂在一起。是一种在开发阶段和测试阶段都可能会涉及到的性能测试应用领域。
- 发现缺陷 误区: 性能测试独立于功能测试 。 此说法是不对的。性能测试是依赖于功能测试。
- 主要目的是:通过性能测试的手段来发现系统中存在的缺陷。
何时进行性能测试?(WHEN)
- 一般在功能测试的中后期进行。
概念和术语介绍
性能测试是通过自动化的测试工具模拟各种正常、峰值以及异常负载条件来对系统的各项性能指标的测试。
做性能测试一般关注的性能指标是什么?
并发数
- 系统用户数:该系统的注册用户数。例如,QQ有100个注册用户。
- 在线用户数:即登录的用户数。例如,100个人里面有60个人为在线状态。
- 并发用户数:是对服务器产生压力的用户。例如,这60个人里面只有20个人在进行通信或其他操作。这20个人就是并发用户数。 并发用户数:同一时间进行同一操作的用户数。
响应时间 又叫请求响应时间:TTLB 对请求做出响应所需要的时间一般为:
1
复制
事务响应时间 事务是一组密切相关的操作组合。登录就是一个事务。
每秒事务通过数 TPS是指每秒系统能够处理的事务数。它是衡量系统处理能力的重要指标。 当压力加大时,TPS曲线如果变化缓慢或者有平坦的趋势,很有可能是服务器开始出现瓶颈了。如果环境没有大的变化,对于同一系统会存在一个最大处理事务能力,它并不随着并发用户数的增减而改变。
点击率 每秒点击数代表用户每秒向Web服务器提交的HTTP请求数。 点击率越大,服务器压力越大。
吞吐量 单位时间内系统处理的客户请求的数量。(根据业务来说的)直接体现软件系统的性能承载能力,一般来说用请求数或页面数来衡量。
从业务角度,吞吐量也可以用访问人数/天或是处理的业务数/小时来衡量; 从网络角度,吞吐量可以用字节/天来衡量。
思考时间 就是用户两个执行动作之间停留的时间。
资源利用率 不同系统资源的使用情况。CPU,网络,磁盘,网络。
性能测试模型
曲线拐点模型
总结:随着并发用户数的增加,吞吐量与资源利用率增加,说明系统在积极处理,所以响应时间增加的并不明显,处于比较好的状态。但随着并发用户数的持续增加,压力也在持续加大,吞吐量与资源利用率都达到了饱和,随后吞吐量急剧下降,造成响应时间急剧增长。轻压力区与重压力区的交界点是系统的最佳并发用户数,因为各种资源都利用充分,响应也很快;而重压力区与拐点区的交界点就是系统的最大并发用户数,因为超过这个点,系统性能将会急剧下降甚至崩溃。
性能测试分类
基准测试、性能测试、负载测试、压力测试、配置测试、并发测试、可靠性测试、失效恢复测试、大数据量测试
基准测试 有基础的标准,这样能通过对比发现系统的不同点与变化。 应用场景:
- 可以在制定的标准下通过基准测试建立一个性能基准,这样以后当系统的环境、参数发生变化之后,再进行一次相同标准下的测试,即可看出变化对性能的影响。
- 系统进行基准测试可以在较早的阶段发现性能问题。
- 某系统从来没有进行任何性能测试,需要对该系统做一次性能评估作为后续开发调优的参考。
狭义性能测试 通过模拟生产运行的业务压力和使用场景组合,测试系统的性能能否满足生产系统要求。是一种常见的测试方法。
负载测试 负载测试是在被测系统上不断增加压力,直到性能极致。例如:响应时间已经超过预定指标或者某种资源使用已将达到饱和状态。 主要目的是:找系统的负载极限,为系统调优提供数据。
压力测试 压力测试的目的是:找出高负载下系统的问题,例如资源竞争、同步问题、内存泄露等。
负载测试和压力测试两者可以结合进行。 负载测试,确定在各种工作负载下系统的性能,目标是测试当负载逐渐增加是,系统各项性能指标的变化情况。 压力测试,是通过确定一个系统的瓶颈或者不能接受的性能点,来获得系统能提供的最大服务级别的测试。
配置测试 是通过被测系统的软/硬件环境的调整,了解各种不同环境对系统性能影响的程度,从而找到各项资源的最有分配原则。
并发测试 是通过模拟用户的并发访问,测试多用户并发访问同一应用,同一模块或者数据记录时是否存在死锁或者其他性能问题。
并发用户数和并发数是不一样的。
可靠性测试 是通过给系统加载一定的业务压力的情况下,让应用系统持续运行一段时间,测试系统在这种条件下是否能够稳定运行。
失效恢复测试
- 失效恢复测试方法是针对有备份和负载均衡的系统设计的,这种测试方法可以用来检验如果系统局部发生故障, 用户能否继续使用系统,以及如果这种情况发生,用户将受到多大程度的影响。
- 一般的关键业务系统都会采用热备份或是负载均衡的方式来实现。这种业务系统一般要求有一台或几台服务器出 现问题,应用系统仍然可以正常执行业务。该方法就是在测试中模拟设备故障,验证预期的恢复技术是否可以正常发挥作用 。
- .不是所有的系统都需要进行这种类型的测试,尤其是并没有明确给出系统需要持续运行指标的系统。
大数据量测试 有两种类型:
- 独立的数据量测试 针对某些系统存储、传输、统计、查询等业务进行大数据量测试。
- 综合数据量测试 是和压力测试、负载测试、并发测试、可靠性测试相结合的综合测试方案。
各个测试类型的测试目的
- 性能测试:能力验证
- 负载测试:规划能力、性能调优
- 压力测试:能力验证、规划能力、性能调优、发现缺陷
- 配置测试:规划能力、性能调优
- 并发测试:发现缺陷
- 可靠性测试:能力验证
- 失效恢复测试:能力验证、性能调优、发现缺陷
性能测试实施
性能测试的实施:
- 前期准备(功能稳定、组件团队)
- 选择工具(进行对于工具的培训)
- 性能测试方案(需求、计划、方案、策略、资源)
- 性能测试设计(准备环境—设计场景—编写脚本—辅助工具)
- 性能测试执行(执行脚本—记录结果)
- 性能调优与分析
- 性能测试报告
性能测试前期准备
- 系统基础功能验证 确保当前需要进行测试的应用系统具备了进行性能测试的条件。 确保当前进行性能测试的应用系统版本已经稳定。
- 组建测试团队 确定团队内角色的构成,以及确定人员的技能。
测试工具
- 工具选择 选择项目适合的性能测试工具。Loadrunner。
- 工具应用技能培训 为项目组的相关参与者进行测试工具的应用技能培训,以使参与者能够具备测试需要的技能 。
- 确认工具应用过程 确定测试工具在测试中的具体应用范围,并不是“工具无所不能”,哪些工作使用工具完成,哪些无法使用工具完成 。
性能测试方案
- 调研测试需求
- 测试业务范围
- 测试环境:硬件环境、软件环境、网络环境
- 测试目的
- 性能指标:业务性能指标、系统性能指标
- 测试策略和测试资源需求
- 测试策略:测试工具、测试方式、测试执行
- 性能测试计划:即是如何实施性能测试,概括为以下5点:
- 编写性能测试方案
- 测试环境准备: 应用软件部署、检查 数据库基础数据导入
- 测试脚本、测试数据 脚本参数化 脚本调试
- 测试执行 压力测试、系统调优 负载测试
- 编写性能测试报告
各种测试通用的实施步骤:需求—方案—代码实现—执行—产出报告
性能测试设计
- 测试环境设计 性能测试的结果与测试环境之间的关联性非常大,无论那种性能测试,都必须首先确定测试的环境,包括系统的 软/硬件环境、数据库环境等等 。
- 测试场景设计 测试场景模拟的一般是实际业务进行的一个剖面,其包括业务、业务比例、测试指标的目标、测试过程中需要监控 的性能计数器 。
- 测试用例的设计 对测试场景近一步细化,一般包括:测试类型、测试内容描述、前置条件、业务操作序列、参数化需求。验证点等。
- 脚本和辅助工具开发
性能测试执行
- 建立测试环境
- 部署测试脚本和测试场景
- 执行测试和记录结果
性能测试分析与调优
测试结果分析是最难的部分。是一个灵活的过程,每次性能测试结果的分析都需要测试分析人员具有相当程度的对 软件性能、软件架构和各种性能测试指标的了解,性能测试分析需要借助各种图表。 通用方法:拐点分析法。
性能测试报告
- 要测试的目标 本次性能测试预期要达到的性能要求。
- 测试概要描述 结构、时间、地点、人员、工具、环境、测试过程简介
- 测试结果和数据
- 测试结论