curl获取网站的响应时间

curl获取网站的响应时间

0.问题

总有人反馈说打开某个页面比较慢,

但是他们并不清楚到底慢在哪里。

同样的问题,

在我们访问外部业务的接口时,

往往也是感觉很慢,

但就是不清楚慢在哪里。

1.分析

当我们打开一个网页,

对于一个不需要考虑技术的人,

想象的画面应该是,

我们通过地址栏问浏览器要个东西,

然后浏览器通过我们提供的地址去对应的服务器取对应的文件,

然后根据服务器的回应将内容显示给我们。

从一个运维人员的视角,

可能就不能这么简单粗暴地想象了,

否则可能永远也无法确认问题究竟出现在哪里了。

简单点来概括下,

1.当我们打开浏览器,在地址栏输入www.qq.com时,

浏览器首先会根据浏览器缓存,电脑缓存,电脑hosts文件,DNS服务来解析www.qq.com对应的网络地址是多少,这个过程会根据解析地方的不同而耗时不同。

使用浏览器缓存和电脑缓存,

返回的结果是最快的,但是可能不是最新的,也可能是错误的。

通过hosts文件解析域名的优先级是高于DNS服务的解析的,

我们也可以在hosts中修改某些域名的解析结果。

2.浏览器获得域名相应IP后,开始与服务器进行三次握手进行连接。

3.浏览器与服务器建立连接后向其发起服务请求

4.服务器内部处理完请求后,将处理结果发送给浏览器

5.浏览器解析服务器发送的结果,然后展示给用户

上面简单描述了浏览器在与服务器进行服务请求的过程,

其中任何一个环节耗时过久都将影响到用户访问网站的速度。

2.Curl获取相关数据

使用cur  -w/--write-out l获取相关数据

几个比较关键的参数:

url_effective 最后获取的URL。

http_code 上一次HTTP(S)或FTP(S)操作返回的响应码。在7.18.2版加入的response_code显示同样的信息。

http_connect 在最后一次对cURL的CONNECT请求的响应(从代理)中发现的数值代码。 (在7.12.4版加入)

time_total 全部操作耗费的时间,单位为秒。精确到毫秒。

time_namelookup 从开始到域名解析完成耗费的时间,单位为秒。

time_connect TCP连接远程主机(或代理服务器)所耗时间,单位为秒。

time_appconnect SSL/SSH/等与远程主机连接/握手完成花费的时间,单位为秒。(在7.19.0 版加入)

time_pretransfer 从开始到文件将要传输前花费的时间,单位为秒。包括指定的协议所有预传输命令和negotiations。

time_redirect 所有重定向步骤的时间,包域名解析、连接、预传输和最后事务开始前的传输,单位为秒。time_redirect显示多重重定向的完整执行时间。(在7.12.3版加入 )

time_starttransfer  从开始到第一个字节将被传输前耗费的时间,单位为秒。

这包括time_pretransfer和服务器需要的运算结果的时间。

size_download下载的总字节数。

size_upload上传的总字节数。

size_header 下载的header的总字节数。

size_request 发送的HTTP请求的总字节数。

speed_download curl成功下载的平均下载速度。

speed_upload curl成功上传的平均上传速度。

3.获取请求的耗时信息

针对特定的请求,通过curl可以获取到各个环节的耗时情况,

比如域名解析的耗时,建立连接的耗时,服务端处理的耗时,总的耗时。

国内某合作方素材

curl -o /dev/null -s -w "http_code: %{http_code}\nhttp_connect:%{http_connect}\ncontent_type:%{content_type}\ntime_dns:%{time_namelookup}\ntime_redirect:%{time_redirect}\ntime_pretransfer:%{time_pretransfer}\ntime_connect:%{time_connect}\ntime_starttransfer:%{time_starttransfer}\ntime_total:%{time_total}:\nspeed_download:%{speed_download}\n " "http://di.adsame.com/flv_test/20161107143341_231.jpg";

http_code: 200

http_connect:000

content_type:image/jpeg

time_dns:0.005

time_redirect:0.000

time_pretransfer:0.013

time_connect:0.013

time_starttransfer:0.021

time_total:0.029:

speed_download:441815.000

苹果官网图片素材

curl -o /dev/null -s -w "http_code: %{http_code}\nhttp_connect:%{http_connect}\ncontent_type:%{content_type}\ntime_dns:%{time_namelookup}\ntime_redirect:%{time_redirect}\ntime_pretransfer:%{time_pretransfer}\ntime_connect:%{time_connect}\ntime_starttransfer:%{time_starttransfer}\ntime_total:%{time_total}:\nspeed_download:%{speed_download}\n " "http://images.apple.com/v/iphone-7/d/images/overview/design_hero_large.jpg";

http_code: 200

http_connect:000

content_type:image/jpeg

time_dns:0.449

time_redirect:0.000

time_pretransfer:0.456

time_connect:0.456

time_starttransfer:0.465

time_total:0.493:

speed_download:419293.000

微博短域名链接

curl -o /dev/null -s -w "http_code: %{http_code}\nhttp_connect:%{http_connect}\ncontent_type:%{content_type}\ntime_dns:%{time_namelookup}\ntime_redirect:%{time_redirect}\ntime_pretransfer:%{time_pretransfer}\ntime_connect:%{time_connect}\ntime_starttransfer:%{time_starttransfer}\ntime_total:%{time_total}:\nspeed_download:%{speed_download}\n "  -L "http://t.cn/Rip1YJA"

http_code: 200

http_connect:000

content_type:text/html;charset=GBK

time_dns:0.210

time_redirect:0.079

time_pretransfer:0.240

time_connect:0.240

time_starttransfer:0.290

time_total:0.369:

speed_download:4349.000

4.其他

目前只能用curl获取到指定请求的静态页面,还是无法像浏览器那样将页面中的链接都请求到,

这样就无法真实反应浏览器中访问页面的耗时情况。

不过当用户反映访问某个页面慢的时候,

通过curl访问对应的地址基本上可以确定,

单个请求主要耗时在哪里。

时间: 2024-11-10 16:02:54

curl获取网站的响应时间的相关文章

curl用法:获取网站的header头及状态码

curl命令最常用的方法是使用参数-I 获取域名或IP的header信息,包括HTTP返回状态码,server类型,文本类型,缓存时间等等:监控web服务时也常用此方法判断web服务是否正常: 监控web服务,可以使用curl获取网站的header头,查看返回值是否是200 OK,作为判断web服务正常的一个标准: 使用curl -I 可以获取,如果提取第一行信息时,会出现一些不需要的信息,那我们该怎么取呢? [[email protected] ~]$ curl -I mofansheng.b

获取网站Web服务器类型的办法

获取网站Web服务器类型的办法如下: 有些同学老问怎么判断Web服务器.如nmap nc nikto等好多可以的-.要那么多扫描器干嘛 NMAP一个就够了!方法N多,举几个例子吧! nmap [email protected]:~$ nmap -sV -p 80 www.xxoo.com Starting Nmap 5.00 ( http://nmap.org ) at 2010-05-24 19:49 CST Interesting ports on 203.xxx.xxx.1×1: PORT

Python网络编程小例子:使用python获取网站域名信息

Whois简介 whois(读作"Who is",非缩写)是用来查询域名的IP以及所有者等信息的传输协议.简单说,whois就是一个用来查询域名是否已经被注册,以及注册域名的详细信息的数据库(如域名所有人.域名注册商).通过whois来实现对域名信息的查询.早期的whois查询多以命令列接口存在,但是现在出现了一些网页接口简化的线上查询工具,可以一次向不同的数据库查询.网页接口的查询工具仍然依赖whois协议向服务器发送查询请求,命令列接口的工具仍然被系统管理员广泛使用.whois通常

js获取网站根目录

<script type="text/javascript"> function getRootPath() { var strFullPath = window.document.location.href; var strPath = window.document.location.pathname; var pos = strFullPath.indexOf(strPath); var prePath = strFullPath.substring(0, pos);

使用curl获取乱码问题

今天通过curl获取百度地图接口数据,获取到居然是乱码,于是我查看是不是编码问题,发现返回的编码和自己的编码都是utf-8, 继续找原因,发现header报文中  Content-encoding 为 gzip 在网上找了一下,然后在curl参数中添加下面代码就可以了 curl_setopt($ch, CURLOPT_ENCODING , 'gzip'); 查询资料 curl设置了CURLOPT_ACCEPT_ENCODING (7.21.8之前为CURLOPT_ENCODING )之后,按照官

再谈获取网站图标Icon

上一篇文章讨论了一下获取网站图标方法,是通过从根目录直接获取和html解析结合的方式来获取的,并给出了相应的代码示例.这一篇来讨论一个更现成的方法,这个方法是从360导航的页面发现的,在导航页面中点击添加网址,会弹出一个添加网址的对话框,点击126邮箱,可以看到126邮箱和图标就跑到上面去了.查看一下网络监控,可以看到Request URL是http://cdn.website.h.qhimg.com/index.php?domain=www.126.com,Request Method是GET

PHP curl获取页面内容,不直接输出到页面,CURLOPT_RETURNTRANSFER参数设置

使用PHP curl获取页面内容或提交数据,有时候希望返回的内容作为变量储存,而不是直接输出.这个时候就必需设置curl的CURLOPT_RETURNTRANSFER选项为1或true. 1.curl获取页面内容, 直接输出例子: <?php $url = 'http://52php.cnblogs.com'; $ch = curl_init(); curl_setopt($ch, CURLOPT_URL, $url); curl_setopt($ch, CURLOPT_SSL_VERIFYPE

PHP CURL获取微信公众平台的ACCESS TOKEN以及创建菜单的方法

//使用curl模块,必须在php.in 里面将curl模块开启.<?php header("Content-type: text/html; charset=utf-8"); define("app_id","xxx");//APP_ID define("app_secret","xxxx");//APP_SECRET //获取access token 的方法 function get_access

获取网站标签Icon

通常情况下,做网站的都会给自己的网站添加一个Icon,浏览器上一长排的标签页,用Icon来区分就显得更加醒目.现在想找一个没有Icon的网站并不好找,可见没有Icon的网站是多么的业余啊."什么?你问Icon是什么?你走吧,这是讨论技术的地方!" 想知道如何获取Icon,就要弄明白怎样设置Icon.先讨论一下设置Icon,再介绍获取Icon,并提供相应Java代码以供参考. 一. 设置网站Icon 设置Icon有两种方式: 1. 看一下我们专业的博客园,看到灰色部分了吗,在head标签