架构高性能网站秘笈(一)——了解衡量网站性能的指标

服务器如何发送数据?

  1. 服务器程序将需要发送的数据写入该程序的内存空间中;
  2. 服务器程序通过操作系统的接口向内核发出系统调用;
  3. 系统内核将用户态内存空间中的数据复制到内核缓冲区中去,然后通知网卡过来取;此后CPU转而做其他处理;
  4. 网卡到CPU指定的内核缓冲区中将数据复制到网卡缓冲区中;
  5. 网卡将字节转换成二进制位,再以电信号的形式输出至网络。

注意:数据在计算机内部的复制是按照总线的宽度来复制的。比如在32位的操作系统中,数据每次都复制32位。

总线就像是一条32/64车道的马路,数据在计算机中是以0/1的形式存储,每次复制每条车道只能走一个0/1,因此每次只能同时复制32个0/1.

数据在网线中的速度

网络传输介质有光缆和铜缆,在光缆中电信号的传输速度为2.3x10^8m/s,在铜缆中传输速度为2.0x10^8m/s。

光的传播速度为3.0x10^8m/s,但由于光缆采用反射机制传播,并不是直射,因此电信号实际走的路程要比直线长很多,因此在光缆中的传播速度只有2.0x10^8m/s。

什么是带宽?

带宽的定义

带宽的定义:数据的发送速率。

带宽的单位

100Mbps = 100M bit per second

平时所说的100M带宽指的是100M比特每秒,

100Mbps = 12.5MBps

注意:我们平时所说的“100M”指的是100MB,而带宽的单位是Mb,而1MB = 8Mb。因此,运营商所说的“百兆宽带”其实是“12.5兆宽带”,呵呵。

什么影响了数据发送速度(带宽)?

  1. 数据的发送速度由接收方的接收速度决定。在数据链路层中,为了确保数据在接收过程中不发生丢失,因此接收方要告诉发送方目前发送速度是否合理。若接收方来不及收,就会告诉发送方,让它慢点发。因此,数据的发送速度(即带宽)由接收方的接收速度决定。
  2. 与传播介质的并行度有关。传输介质可以看成是多车道马路,数据由0/1组成,每股车道每次只能容纳一个0/1。因此,如果马路的车道增多,那么每次发送的0/1也就增多,从而提高了发送速度(即带宽).

运营商为什么要限制带宽?

我们的服务器会通过一个交换机连入互联网,互联网由无数个路由器和主机构成,路由器负责数据包的存储转发,将数据包根据目的地址途径一个个路由器,最终投递到目的主机中。

由于一个交换机往往有多个服务器接入,服务器们都会将需要发送的数据首先发给交换机,再由交换机发给路由器,这些数据先存储在路由器的缓存中,然后路由器根据先后顺序逐个转发。所以,如果服务器发送数据的速度过快,路由器缓存满了,那接下来的数据就会丢失,因此需要限制服务器向路由器发送数据的速度,即限制服务器的带宽。而这个限制由接入服务器的交换机完成。通过上文可知,交换机只要控制接收速度,就能限制服务器的发送速度。

什么是共享带宽?什么是独享带宽?

1.独享带宽

如果一个路由器的出口带宽为100Mbps,并且同一个广播域内有10台主机,交换机只要将每台主机的最大出口带宽限制为10Mbps,那么不管在任何情况下每台主机的最大出口带宽为10Mbps。这就是独享带宽。独享带宽不会受到同一个广播域内其他主机的影响,任何时候最大出口带宽均为10Mbps。

2.共享带宽

假设一个路由器的出口带宽仍为100Mbps,但运营商为了挣更多钱,使同一个广播域内有多于10个主机接入,那么每台主机的平均最大带宽就小于10Mbps,此时即使交换机仍然将每台主机的最大出口带宽限制为10Mbps,但当主机都有较大的网络通信时,就无法保证每台主机都有10Mbps的最大带宽,此时就会相互竞争带宽。

综上所述,独享10M带宽能保证服务器的最大出口带宽在任何情况下都为10Mbps,不会受到同一广播域内的其他主机影响;而共享10M带宽只能保证在同一广播域内的其他主机通信空闲时,才能达到最大10Mbps的出口带宽。

什么是响应时间?

响应时间是指从数据包的第一个0/1离开服务器开始,到最后一个0/1被客户端接收为止的这段时间。

响应时间 = 发送时间+传输时间+处理时间

  • 发送时间:从发送数据包的第一个0/1开始,到发完最后一个0/1为止的这段时间。

    发送时间=数据包比特数/带宽

  • 传输时间:数据在通信线路中的传输时间。

    传输时间=传输距离/传输速度

    (传输速度近似为2x10^8m/s)

  • 处理时间:数据在各个路由器中存储转发的时间。

    处理时间比较难以计算。

响应时间=(数据包比特数/带宽)+(传输距离/传输速度)+处理时间

下载速度=数据的字节数/响应时间

什么是吞吐率?

吞吐率:服务器单位时间内处理请求的个数。

单位:reqs/s

吞吐率用来衡量服务器处理请求的能力。

当请求非常少的时候吞吐率并不高,因为此时服务器的性能还没有体现出来。那么随着请求的不断增多,吞吐率会随之上升,但当并发请求数上升到某一个临界点时,吞吐率不升反降。那个临界点就是服务器吞吐率的最大值,也叫最大吞吐率。

若我们的网站有促销活动前,可以通过上述方法来估计服务器的最大吞吐率,从而能判断服务器能否顶住促销带来的压力。

什么是并发数?什么是并发用户数?

要搞清楚并发数和并发用户数的区别,首先需要了解HTTP协议。

HTTP协议是一种应用层协议,它本身是无连接的,也就是客户端与服务器每完成一次数据交互就需要断开连接,下次通信时重新建立连接。但是HTTP1.1中有一个keep-alive字段,它使得通信双方在完成一次通信后仍然保持一定时长的连接。若该时间内客户端又想与服务器通信,那么无需再创建新的连接,只需重用刚才的连接即可,这样能提高通信的效率,减少额外的开销。

  • 并发数:客户端向服务器请求的次数。不论是否延用已创建的连接,只要客户端向服务器提出请求,就算一个并发数。
  • 并发用户数:创建TCP连接的个数。如果一个浏览器延用了已创建的连接向服务器发送了10次请求,那么只算一个并发用户数。

注意:现在的浏览器支持多线程,可以同时与服务器建立多个TCP连接,因此一个用户可能会导致多个并发用户数。所以“并发用户数”和“用户数”不能完全画等号,这点需要注意!

平均请求等待时间 和 服务器平均请求处理时间

平均请求等待时间:用户从点击一个按钮,到新的页面加载完毕所需的时间。

服务器平均请求处理时间:服务器从等待队列中取出一个请求开始,到处理完该请求所需的时间。

综上所述:平均请求处理时间是站在用户角度,是用来衡量用户体验的好坏的指标。

而服务器平均请求处理时间是衡量服务器性能好坏的指标,其实就是吞吐率的倒数。

注意:平均请求等待时间 和 服务器平均请求处理时间不成正比关系!

平均请求等待时间=请求传输时间+请求等待时间+请求处理时间

服务器平均请求处理时间=请求处理时间

由此可知,在请求数很少的情况下,浏览器发来的请求无需等待,直接被服务器处理,那么请求等待时间和服务器请求处理时间成正比关系;但在请求异常多的时候,请求到来速度远远大于服务器处理请求的速度,那么很多请求将会在等待队列中挤压,此时即使服务器处理请求的能力很强(即服务器平均请求处理时间很短),但用户的等待时间依然很长,此时用户等待时间与服务器请求处理时间不成正比。

使用Apache Bench进行压力测试

我们使用Apache服务器的Apache Bench(简称ab)对网站进行压力测试。ab简单易用,关键可以直接在服务器本地发起测试,这样我们可以获取不包括传输时间的服务器处理时间。通过服务器处理时间就可以知道服务器的性能。

1. 压力测试命令

ab -n100 -c10 http://www.acmcoder.com/index.php

2. 测试结果解析

Server Software:        openresty #服务器软件
Server Hostname:        www.acmcoder.com #测试的网址
Server Port:            80 #访问的端口号

Document Path:          /index.php #测试的网页
Document Length:        162 bytes #HTTP响应信息的正文长度

Concurrency Level:      10 #并发用户数
Time taken for tests:   1.497209 seconds #测试所花费的时间
Complete requests:      100 #总请求数
Failed requests:        0 #失败的请求数(响应码非2xx的请求由Non-2xx responses记录)
Write errors:           0
Non-2xx responses:      100 #HTTP响应头中状态码非2xx的响应个数
Total transferred:      32400 bytes #总的响应数据长度,包括HTTP响应的头和正文数据,但不包括请求数据。
HTML transferred:       16200 bytes #HTTP响应中正文数据的长度。
Requests per second:    66.79 [#/sec] (mean) #吞吐率
Time per request:       149.721 [ms] (mean) #用户平均请求等待时间
Time per request:       14.972 [ms] (mean, across all concurrent requests) #服务器平均请求处理时间
Transfer rate:          20.71 [Kbytes/sec] received #服务器的数据传输速度(在极限情况下该数据即为服务器出口带宽)

Connection Times (ms)
              min  mean[+/-sd] median   max
Connect:       40   46   4.8     46      58
Processing:    41   46   5.0     46      58
Waiting:       40   46   4.9     45      58
Total:         81   92   9.7     92     116

Percentage of the requests served within a certain time (ms)
  50%     92 #50%的请求在92毫秒内完成
  66%     98
  75%     99
  80%    101
  90%    107
  95%    114
  98%    115
  99%    116
 100%    116 (longest request)

如何选择网站的被测URL?

一个网站的URL可能有很多,每个URL对应的处理也不尽相同,某一个URL的测试结果并不具有代表性。因此,我们需要选择一系列有代表性的URL,将测试结果的加权平均数作为网站的综合性能。

时间: 2024-11-05 12:24:40

架构高性能网站秘笈(一)——了解衡量网站性能的指标的相关文章

架构高性能站点秘笈(六)——构建数据缓冲区

到此为止,一共介绍了四种server性能优化的方法.各自是:动态内容缓存.浏览器缓存.反向代理缓存.Web组件分离. 我们发如今这四种方法中,"缓存"占了大头! 确实如此,"缓存"是server性能优化的核心思想.我们提出的各种优化方法本质上仅仅是把"缓存"用在了不同的地方.并依据使用位置的不同,个性化定制缓存的用法.接下来又要介绍一种缓存的新用法--数据缓冲区. 之前介绍的动态内容缓存.浏览器缓存都是将整个静态页面进行缓存.这样的方式有个弊端:

架构高性能网站秘笈(六)——负载均衡

什么是负载均衡? 当一台服务器的性能达到极限时,我们可以使用服务器集群来提高网站的整体性能.那么,在服务器集群中,需要有一台服务器充当调度者的角色,用户的所有请求都会首先由它接收,调度者再根据每台服务器的负载情况将请求分配给某一台后端服务器去处理. 那么在这个过程中,调度者如何合理分配任务,保证所有后端服务器都将性能充分发挥,从而保持服务器集群的整体性能最优,这就是负载均衡问题. 下面详细介绍负载均衡的四种实现方式. HTTP重定向实现负载均衡 过程描述 当用户向服务器发起请求时,请求首先被集群

成功绝非偶然 电子商务网站成功秘笈

成功绝非偶然 电子商务网站成功秘笈任何一个网站来说,链接相信是必不可少的,而内链的问题现如今才慢慢被大家所重视,于是对于自己的原创文章,很多朋友都在想:我是否应该多加几个链接,我到底应该加什么链接?相信这个问题也困扰不少站长朋友,在此,守护袁昆发表下自己的看法. 相对于以前的纯广告链接,越来越多的朋友已经在注重内容质量,然后把自己的链接穿插进去.在自己的网站上给一些核心关键词加上锚文本,在别人的平台上投稿文章末尾留下一个原创链接.相信这些操作行为大家都不陌生,那么是否应该去进行这些操作,或者说我

《大型网站技术架构》读书笔记四:瞬时响应之网站的高性能架构

一.网站性能测试 (1)性能测试指标:①响应时间:②并发数:③吞吐量:④性能计数器: (2)性能测试方法:①性能测试:②负载测试:③压力测试:④稳定性测试: (3)性能优化策略: ①性能分析:检查请求处理各个环节的日志,分析哪个环节响应时间不合理,检查监控数据分析影响性能的因素: ②性能优化:Web前端优化,应用服务器优化,存储服务器优化: 二.Web前端性能优化 (1)浏览器访问优化: ①减少http请求:因为http是无状态的,每次请求的开销都比较昂贵(需要建立通信链路.进行数据传输,而服务

大型网站系统架构的演进(三)如何提高网站的高可用和高性能

随着网站的业务越来越多,网站的服务就变的很重要,假设某天你的服务器挂了,会不会是一个天大的灾难呢?而且这种事情发生的概率还不小,断电了,服务器硬盘坏了,内存坏了等等,都会使你的系统挂掉,而且高并发的访问有时候也会使系统资源耗尽,然后导致服务器宕机,那么解决方案呢,那就是集群,将相同的系统分别放到不同的web服务器或者硬件服务器,这样其中一个挂掉了,网站还可以正常运营. Web应用集群 首先我们应该对web前置做集群,我们的方案是用Haproxy做http协议层的负载均衡,后端部署多个web前置,

Spark GraphX宝刀出鞘,图文并茂研习图计算秘笈与熟练的掌握Scala语言【大数据Spark

Spark GraphX宝刀出鞘,图文并茂研习图计算秘笈 大数据的概念与应用,正随着智能手机.平板电脑的快速流行而日渐普及,大数据中图的并行化处理一直是一个非常热门的话题.图计算正在被广泛地应用于社交网络.电子商务,地图等领域.对于图计算的两个核心问题:图存储模式和图计算模型,Spark GraphX给出了近乎完美的答案, 而Spark GraphX作为图计算领域的屠龙宝刀,对Pregel  API的支持更是让Spark GraphX如虎添翼.Spark GraphX可以轻而易举的完成基于度分布

“云中论道”之——华山论剑 ,唯快不破:秘笈分享

"云中论道"技术课堂第二课开讲时间到~ 这次我们邀请到的是来自微软开源技术中心的高级产品经理,人称"蓦然汐来".她将为我们介绍,近一年来微软开源技术中心在Linux上的进一步努力下,运行于Hyper-V之上的Linux的性能有了哪些新的重大提升:在云的论剑中,如何保持快速度.高性能.全新秘笈,马上为大家揭晓! 本文作者介绍: 花名"蓦然汐来",现任微软中国云计算与企业产品工程部开源技术中心高级产品经理,负责微软虚拟化平台 Hyper-v 和公有云

点石成金 访客至上的Web和移动可用性设计秘笈pdf

下载地址:网盘下载 编辑推荐 原书第三版全新上市! 第11届Jolt生产效率大奖获奖图书,被Web设计人员奉为圭臬的经典之作 第2版全球销量超过35万册,网站的网页设计类图书的销量排行佼佼者 访客至上的Web和可用性设计秘笈 内容简介 <点石成金:访客至上的Web和移动可用性设计秘笈(原书第3版)>是一本关于Web设计原则而不是Web设计技术的书.<点石成金:访客至上的Web和移动可用性设计秘笈(原书第3版)>作者是Web设计专家,具有丰富的实践经验.他用幽默的语言为你揭示Web设

嵌入式linux GUI--DirectFB + GTK至尊秘笈

1 前言 数年前,曾经开发过一个嵌入式的产品,如今市场依然存在,但由于电子产品的升级换代很快,许多元器件都采购不到了,为了延续产品的生命周期,计划在linux平台上开发新的版本.而在linux上的GUI上成了大问题,最开始有用Minigui的打算,也同飞漫公司联系过,但费用我这里无法承受.(Minigui作为国产优秀的嵌入式GUI,如果不是费用的问题,应该是最优的选择.) QT我也看了下,也是收费的,没有仔细研究.最开始我打算用MicroWindow的,但后来发现这个东西好久没有更新了,bug一