一文详解吞吐量、QPS、TPS、并发数等高并发大流量指标
gaoyangw 2024-11-13 10:33 19 浏览 0 评论
在很多阿里双11高并发场景经常提到QPS、TPS、RT、吞吐量等指标,这些高并发高性能指标都是什么含义?如何来计算?下面我一一详解@mikechen
系统吞度量
系统吞吐量指的是系统在单位时间内可处理的事务的数量,是用于衡量系统性能的重要指标。
例如在网络领域,某网络的系统吞吐量指的是单位时间内通过该网络成功传递的消息包数量。
举一个生活中的例子,一说就懂,比如:成都双流国际机场年旅客吞吐量达4011.7万人次,这里的系统单位时间就是年,完成的数量这里就是飞行人数。
上面谈到的是机场的吞吐量,而系统吞吐量指的是系统(比如服务器)在单位时间内可处理的事务的数量,是一个评估系统承受力的重要指标。
系统吞吐量有几个重要指标参数:
- QPS
- TPS
- 响应时间
- 并发数
下面我分别一一详解。
QPS
QPS(Queries Per Second):大家最熟知的就是QPS,这里我就不多说了,简要意思就是“每秒查询率”,是一台服务器每秒能够相应的查询次数,是对一个特定的查询服务器在规定时间内所处理流量多少的衡量标准。
TPS
TPS(Transactions Per Second):意思是每秒钟系统能够处理的交易或事务的数量,它是衡量系统处理能力的重要指标。
具体事务的定义都是人为的,可以一个接口、多个接口、一个业务流程等等。
举一个例子,比如在web性能测试中,一个事务是指事务内第一个请求发送到接收到最后一个请求的响应的过程,以此来计算使用的时间和完成的事务个数。
以单接口定义为事务为例,每个事务包括了如下3个过程:
a.向服务器发请求
b.服务器自己的内部处理(包含应用服务器、数据库服务器等)
c.服务器返回结果给客户端。
总结,在web性能测试中一个事务表示“从用户发送请求->web server接受到请求,进行处理-> web server向DB获取数据->生成用户的object(页面),返回给用户”的过程。
怎么计算TPS的呢?
举一个最简单的例子,如果每秒能够完成100次上面这三个过程,那TPS就是100。
一般的,评价系统性能均以每秒钟完成的技术交易的数量来衡量。
比如大家熟知的阿里双11,?一秒峰值完成58.3万笔订单,这样就量化了系统处理高并发的重要指标。
QPS与TPS的区别
上面分别谈完了QPS与TPS,我们再来看看两者有什么区别呢?
假如对于一个页面的一次访问算一个TPS,但一次页面请求,可能产生N次对服务器的请求,服务器对这些请求,就可计入QPS之中,即QPS=N*TPS。
又假如对一个查询接口(单场景)压测,且这个接口内部不会再去请求其它接口,那么TPS=QPS。
RT响应时间
RT(Response-time)响应时间:执行一个请求从开始到最后收到响应数据所花费的总体时间,即从客户端发起请求到收到服务器响应结果的时间。
该请求可以是任何东西,从内存获取,磁盘IO,复杂的数据库查询或加载完整的网页。
暂时忽略传输时间,响应时间是处理时间和等待时间的总和,处理时间是完成请求要求的工作所需的时间,等待时间是请求在被处理之前必须在队列中等待的时间。
响应时间是一个系统最重要的指标之一,它的数值大小直接反应了系统的快慢。
并发数Concurrency
并发数是指系统同时能处理的请求数量,这个也反应了系统的负载能力。
并发,指的是多个事情,在同一段时间段内发生了,大家都在争夺统一资源。
比如:当有多个线程在操作时,如果系统只有一个 CPU,则它根本不可能真正同时进行一个以上的线程,它只能把 CPU 运行时间划分成若干个时间段,再将时间段分配给各个线程执行,在一个时间段的线程代码运行时,其它线程处于挂起状态,这种方式我们称之为并发(Concurrent)。
并发编程属于高并发的一个重要分支,也是大厂的必备要求,如果想更加全面深入学习Java并发,可以查看《Java多线程与并发编程从0到1全部合集》。
相关推荐
- 工业品网络推广/工业品网络推广,慢就是快
-
工业品网络推广/工业品网络推广,慢就是快。做工业品网络推广,慢就是快,很多人都因为想要快而被割了韭菜。今天跟一个做机械设备的老板聊天,他想要快点把他的短视频账号做起来,所以他打算在这个账号上投5-10...
- 活动H5网页制作指南:提升品牌推广效果
-
活动H5是一种利用HTML5技术制作的活动网页。目前,在网络活动领域,它相当受欢迎,常被用于企业宣传、产品推广和节日庆典等活动,扮演着至关重要的角色。下面,我将为大家详细解说活动H5的相关内容。基本概...
- 工业品网络推广/小微企业如何稳中求胜
-
工业品网络推广/小微企业如何稳中求胜。工业品小企业,如何在没什么优势的情况下,做好网络推广,接到稳定的询盘和订单呢?我经常会遇到这样的老板,我问他公司有什么优势?他说公司没什么优势,跟同行差不多。其实...
- 全面介绍H5活动:网络推广常用且具有多种优势的手段
-
H5活动是现在网络推广中常用的一种手段,它结合了文字、图像、声音等多种媒体元素,提供了既有趣又方便的交流方式。接下来,我将全面为大家介绍这种活动。定义本质简单来说,活动H5是利用HTML5技术构建的页...
- 谷歌搜索引擎出现罕见的服务中断,数据中心发生爆炸
-
8月9日(周二),谷歌为8月8日搜索引擎中断问题道歉。该公司的一位发言人表示,该团队已“迅速开展工作”以解决故障,服务已恢复正常运行。此外,对于数据中心爆炸,Google发言人DevonSmiley...
- 谷歌搜索改版:取消连续滚动,重回分页显示
-
IT之家6月26日消息,据SearchEngineLand,谷歌现已取消搜索结果界面的“连续滚动”显示,转而采用之前一直使用的“分页”模式。IT之家查询发现,谷歌最初于2021年1...
- 谷歌组织迎重大调整!Gemini并入DeepMind团队,搜索广告业务主管升为首席技术官
-
谷歌重组旗下人工智能部门,将Gemini应用团队转移至DeepMind,以增强AI领域的竞争力。10月17日周四,谷歌宣布将把Gemini应用团队转移至人工智能研究实验室DeepMind,隶属于谷歌A...
- 谷歌测试纯AI版搜索引擎,彻底取消传统展示形式
-
来源:网易新闻3月6日消息,Alphabet旗下谷歌当地时间周三推出一款实验版搜索引擎,彻底取消10个蓝色链接的传统展示形式,转而采用人工智能生成摘要的全新界面。这项名为“AI模式”的新功能已经向Go...
- 谷歌搜索升级隐私保护工具:主动监控示警,让用户掌控网络足迹
-
IT之家2月27日消息,谷歌公司昨日(2月26日)发布公告,宣布升级“Resultsaboutyou”工具,可在搜索结果中扫描包括电话号码、家庭住址等个人信息,并帮助用户快速移除这些...
- AI 搜索模式:Google 让 Gemini 完全掌控你的搜索结果
-
这一天终于来了——Google正式开始测试一项全新的AI搜索模式,这将让用户的搜索体验完全由Gemini主导。...
- 谷歌Chrome浏览器将整合Gemini AI:窗口与任务栏双入口曝光
-
IT之家3月20日消息,科技媒体WindowsLatest今天(3月20日)发布博文,报道称谷歌计划将Gemini人工智能助手深度整合至Chrome浏览器,类似微软Edg...
- 谷歌测试Gemini模型新技能:借助用户搜索记录提供更个性化回应
-
IT之家3月8日消息,外媒AndroidAuthority昨天报道称,谷歌正在开发一款新的Gemini模型,该模型可以访问用户的谷歌搜索记录,从而提供更个性化的AI回应。其在最新...
- Google 搜索升级:由 Gemini 2.0 驱动的 AI 概览功能扩展
-
来源:至顶网根据Google周三发布的博客文章,公司正在将AI概览功能扩展到更多美国用户,并对其进行Gemini2.0升级。AI概览是Google搜索的一项功能,它会在显示常规蓝色...
- 谷歌搜索上线AI模式:整合多模态和实时信息,一键解答复杂问题
-
IT之家3月6日消息,谷歌公司昨日(3月5日)发布博文,邀请谷歌搜索用户,测试全新的“AI模式”(AIMode)。用户可以提出更复杂的问题,并基于搜索结果,AI生成更详细、更直观的...
- 刚刚,谷歌Gemini Live上新功能,能看懂手机屏幕、还能实时视频
-
机器之心报道编辑:陈陈、蛋酱...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表