浅谈 php 采用curl 函数库获取网页 cookie 和 带着cookie去访问 网页的方法!!!!

由于近段时间帮朋友开发一个能够查询正方教务系统的微信公众平台号。有所收获。这里总结下个人经验。

开讲前,先吐槽一下新浪云服务器,一个程序里的   同一个函数  在PC测试可以正常运行,在它那里就会挂的现象。

老样子,我将在代码里注释清楚。使用下面的函数,将会获得两种形式的 cookie,一种保存在文件中,一种直接以变量的形式返回,

经验提示: 有时候,在不同的代码运行环境中,带着文件cookie 去访问会成功,而变量却失败,有时候却想法。不过,

目前,这两种方法总有一种会成功。

 1 function get_cookie($url_,$params_,$referer_){
 2
 3         if($url_==null){echo "get_cookie_url_null";exit;}
 4         if($params_==null){echo "get_params_null";exit;}
 5         if($referer_==null){echo "get_referer-null";exit;}
 6         $this_header = array("content-type: application/x-www-form-urlencoded; charset=UTF-8");//访问链接时要发送的头信息
 7
 8         $ch = curl_init($url_);//这里是初始化一个访问对话,并且传入url,这要个必须有
 9
10         //curl_setopt就是设置一些选项为以后发起请求服务的
11
12
13         curl_setopt($ch,CURLOPT_HTTPHEADER,$this_header);//一个用来设置HTTP头字段的数组。使用如下的形式的数组进行设置: array(‘Content-type: text/plain‘, ‘Content-length: 100‘)
14         curl_setopt($ch, CURLOPT_HEADER,1);//如果你想把一个头包含在输出中,设置这个选项为一个非零值,我这里是要输出,所以为 1
15
16         curl_setopt($ch,CURLOPT_RETURNTRANSFER,1);//将 curl_exec()获取的信息以文件流的形式返回,而不是直接输出。设置为0是直接输出
17
18         curl_setopt($ch, CURLOPT_FOLLOWLOCATION, 1);//设置跟踪页面的跳转,有时候你打开一个链接,在它内部又会跳到另外一个,就是这样理解
19
20         curl_setopt($ch,CURLOPT_POST,1);//开启post数据的功能,这个是为了在访问链接的同时向网页发送数据,一般数urlencode码
21
22         curl_setopt($ch,CURLOPT_POSTFIELDS,$params_); //把你要提交的数据放这
23
24         curl_setopt($ch, CURLOPT_COOKIEJAR, ‘cookie.txt‘);//获取的cookie 保存到指定的 文件路径,我这里是相对路径,可以是$变量
25
26         //curl_setopt($ch, CURLOPT_COOKIEFILE, ‘cookie.txt‘);//要发送的cookie文件,注意这里是文件,还一个是变量形式发送
27
28         //curl_setopt($curl, CURLOPT_COOKIE, $this->cookies);//例如这句就是设置以变量的形式发送cookie,注意,这里的cookie变量是要先获取的,见下面获取方式
29
30         curl_setopt ($ch, CURLOPT_REFERER,$referer_); //在HTTP请求中包含一个‘referer‘头的字符串。告诉服务器我是从哪个页面链接过来的,服务器籍此可以获得一些信息用于处理。
31
32         $content=curl_exec($ch);     //重点来了,上面的众多设置都是为了这个,进行url访问,带着上面的所有设置
33
34         if(curl_errno($ch)){
35             echo ‘Curl error: ‘.curl_error($ch);exit(); //这里是设置个错误信息的反馈
36          }
37
38         if($content==false){
39             echo "get_content_null";exit();
40         }
41         preg_match(‘/Set-Cookie:(.*);/iU‘,$content,$str); //这里采用正则匹配来获取cookie并且保存它到变量$str里,这就是为什么上面可以发送cookie变量的原因
42
43         $cookie = $str[1]; //获得COOKIE(SESSIONID)
44
45         curl_close($ch);//关闭会话
46
47         return     $cookie;//返回cookie
48 }

下面这个是如何利用上面的cookie  去访问网页,去post数据,去get页面代码的函数。

 1 function post($url,$post_data,$location = 0,$reffer = null,$origin = null,$host = null){
 2
 3             $post_data = is_array($post_data)?http_build_query($post_data):$post_data;
 4             //产生一个urlencode之后的请求字符串,因为我们post,传送给网页的数据都是经过处理,一般是urlencode编码后才发送的
 5
 6             $header = array( //头部信息,上面的函数已说明
 7                 ‘Accept:*/*‘,
 8                 ‘Accept-Charset:text/html,application/xhtml+xml,application/xml;q=0.7,*;q=0.3‘,
 9                 ‘Accept-Encoding:gzip,deflate,sdch‘,
10                 ‘Accept-Language:zh-CN,zh;q=0.8‘,
11                 ‘Connection:keep-alive‘,
12                 ‘Content-Type:application/x-www-form-urlencoded‘,
13                 //‘CLIENT-IP:‘.$ip,
14                 //‘X-FORWARDED-FOR:‘.$ip,
15             );
16
17             //下面的都是头部信息的设置,请根据他们的变量名字,对应上面函数所说明
18             if($host){
19                 $header = array_merge_recursive($header,array("Host:".$host));
20             }
21             else if($this->option["host"]){
22                 $header = array_merge_recursive($header,array("Host:".$this->option["host"]));
23             }
24             if($origin){
25                 $header = array_merge_recursive($header,array("Origin:".$origin));
26             }
27             else{
28                 $header = array_merge_recursive($header,array("Origin:".$url));
29             }
30             if($reffer){
31                 $header = array_merge_recursive($header,array("Referer:".$reffer));
32             }
33             else{
34                 $header = array_merge_recursive($header,array("Referer:".$url));
35             }
36
37             $curl = curl_init();  //这里并没有带参数初始化
38
39             curl_setopt($curl, CURLOPT_URL, $url);//这里传入url
40
41             curl_setopt($curl, CURLOPT_HTTPHEADER, $header);
42
43             curl_setopt($curl, CURLOPT_SSL_VERIFYPEER, 0);//对认证证书来源的检查,不开启次功能
44
45             curl_setopt($curl, CURLOPT_SSL_VERIFYHOST, 1);//从证书中检测 SSL 加密算法
46
47             curl_setopt($curl, CURLOPT_USERAGENT, $this->useragent);
48             //模拟用户使用的浏览器,自己设置,我的是"Mozilla/5.0 (Windows NT 6.1; WOW64; rv:23.0) Gecko/20100101 Firefox/23.0"
49             curl_setopt($curl, CURLOPT_FOLLOWLOCATION, $location);
50
51             curl_setopt($curl, CURLOPT_AUTOREFERER, 1);//自动设置referer
52
53             curl_setopt($curl, CURLOPT_POST, 1);//开启post
54
55             curl_setopt($curl, CURLOPT_ENCODING, "gzip" );
56             //HTTP请求头中"Accept-Encoding: "的值。支持的编码有"identity","deflate"和"gzip"。如果为空字符串"",请求头会发送所有支持的编码类型。
57             //我上面设置的是*/*
58
59             curl_setopt($curl, CURLOPT_POSTFIELDS, $post_data);//要传送的数据
60
61             //curl_setopt($curl, CURLOPT_COOKIE, $this->cookies);//以变量形式发送cookie,我这里没用它,文件保险点
62
63             curl_setopt($curl, CURLOPT_COOKIEJAR, ‘cookie.txt‘);    //存cookie的文件名,
64
65             curl_setopt($curl, CURLOPT_COOKIEFILE, ‘cookie.txt‘);  //发送
66
67             curl_setopt($curl, CURLOPT_TIMEOUT, 30);//设置超时限制,防止死循环
68
69             curl_setopt($curl, CURLOPT_HEADER, 1);
70
71             curl_setopt($curl, CURLOPT_RETURNTRANSFER, 1);
72
73             $tmpInfo = curl_exec($curl);
74             if (curl_errno($curl)) {
75                 echo  ‘Curl error: ‘ . curl_error ( $curl );exit();
76             }
77
78             curl_close($curl);
79             list($header, $body) = explode("\r\n\r\n", $tmpInfo, 2);//分割出网页源代码的头和bode
80             $tmpInfo = $this->auto_charest($tmpInfo);//转码,防止乱码,自定义函数
81             return array("header"=>$header,"body"=>$body,"content"=>$tmpInfo);
82         }

上面是post,下面是get,两者差不多,差别在于,get是没有post,传送数据给放前访问的网页的,仅仅只是获取源代码。

 1 function get($url,$location = 1,$origin = null,$reffer = null,$host = null){
 2             //$ip = $this->randip();
 3             if($url==null){
 4                 echo "get-url-null";exit();
 5             }
 6             $header = array(
 7                 ‘Accept:*/*‘,
 8                 ‘Accept-Charset:GBK,utf-8;q=0.7,*;q=0.3‘,
 9                 ‘Accept-Encoding:gzip,deflate,sdch‘,
10                 ‘Accept-Language:zh-CN,zh;q=0.8‘,
11                 ‘Connection:keep-alive‘,
12
13                 //‘CLIENT-IP:‘.$ip,
14                 //‘X-FORWARDED-FOR:‘.$ip,
15             );
16             if($host){
17                 $header = array_merge_recursive($header,array("Host:".$host));
18             }
19             else if($this->option["host"]){
20                 $header = array_merge_recursive($header,array("Host:".$this->option["host"]));
21             }
22             if($origin){
23                 $header = array_merge_recursive($header,array("Origin:".$origin));
24             }
25             else{
26                 $header = array_merge_recursive($header,array("Origin:".$url));
27             }
28             if($reffer){
29                 $header = array_merge_recursive($header,array("Referer:".$reffer));
30             }
31             else{
32                 $header = array_merge_recursive($header,array("Referer:".$url));
33             }
34
35             $curl = curl_init();
36             curl_setopt($curl, CURLOPT_URL, $url);
37             curl_setopt($curl, CURLOPT_HTTPHEADER, $header);
38             curl_setopt($curl, CURLOPT_SSL_VERIFYPEER, 0);
39             curl_setopt($curl, CURLOPT_SSL_VERIFYHOST, 1);
40             curl_setopt($curl, CURLOPT_USERAGENT, $this->useragent);
41             curl_setopt($curl, CURLOPT_FOLLOWLOCATION, $location);
42             curl_setopt($curl, CURLOPT_FOLLOWLOCATION, 1);
43             curl_setopt($curl, CURLOPT_AUTOREFERER, 1);
44             curl_setopt($curl, CURLOPT_ENCODING, "gzip" );
45             curl_setopt($curl, CURLOPT_HTTPGET, 1);
46             //curl_setopt($curl, CURLOPT_COOKIE, $this->cookies);
47             curl_setopt($curl, CURLOPT_COOKIEJAR, ‘cookie.txt‘);
48             curl_setopt($curl, CURLOPT_COOKIEFILE, ‘cookie.txt‘);
49             curl_setopt($curl, CURLOPT_TIMEOUT, 30);
50             curl_setopt($curl, CURLOPT_HEADER, 1);
51             curl_setopt($curl, CURLOPT_RETURNTRANSFER, 1);
52             $tmpInfo = curl_exec($curl);
53
54             if (curl_errno($curl)) {
55                 echo  ‘Curl error: ‘.curl_error ($curl);exit();
56             }
57             curl_close($curl);
58             list($header, $body) = explode("\r\n\r\n", $tmpInfo, 2);
59             $tmpInfo = $this->auto_charest($tmpInfo);
60             return array("header"=>$header,"body"=>$body,"content"=>$tmpInfo);
61         }

OK,如果觉得对你有点用的,请默默点一下顶。(右下角)

时间: 2024-11-12 06:29:05

浅谈 php 采用curl 函数库获取网页 cookie 和 带着cookie去访问 网页的方法!!!!的相关文章

Thinkphp3.2.3框架下封装公共的函数,例如封装CURL函数来获取接口数据

当我们需要在控制层调用相同的封装函数时,写多次相同的函数,显得代码十分的拉杂,不精简: TP框架有一个很好的机制,可以再Common定义一个function.php函数,当我们在控制层调用的时候直接调用就可以使用,方便快捷: 具体实现方便如下: 我们可以再三个地方设置公共的函数function.php (注意:function.php默认是不存在的,需手动创建) 根目录\Application\Common\Common\function.php(公共的函数,Home和Admin都可以调用) 根

PHP中的CURL函数库

PHP中的CURL函数库(Client URL Library Function) curl_close — 关闭一个curl会话curl_copy_handle — 拷贝一个curl连接资源的所有内容和参数curl_errno — 返回一个包含当前会话错误信息的数字编号curl_error — 返回一个包含当前会话错误信息的字符串curl_exec — 执行一个curl会话curl_getinfo — 获取一个curl连接资源句柄的信息curl_init — 初始化一个curl会话curl_m

浅谈reverse_iterator的base()函数

非原创,原文链接:http://blog.csdn.net/shuchao/article/details/3705252 调用reverse_iterator的base成员函数可以产生"对应的"iterator,但这句话有些辞不达意.举个例子,看一下这段代码,我们首先把从数字1-5放进一个vector中,然后产生一个指向3的reverse_iterator,并且通过reverse_iterator的base初始化一个iterator: vector<int> v; v.r

PHP采集相关教程之一 CURL函数库

先写一个简单的抓取页面函数 [php] view plaincopy <?php function GetSources($Url,$User_Agent='',$Referer_Url='') //抓取某个指定的页面 { //$Url 需要抓取的页面地址 //$User_Agent 需要返回的user_agent信息 如"baiduspider"或"googlebot" $ch = curl_init(); curl_setopt ($ch, CURLOPT

PHP中的CURL函数库(转载)

使用PHP的cURL库可以简单和有效地去抓网页.你只需要运行一个脚本,然后分析一下你所抓取的网 页,然后就可以以程序的方式得到你想要的数据了.无论是你想从从一个链接上取部分数据,或是取一个XML文件并把其导入数据库,那怕就是简单的获取网页内 容,cURL 是一个功能强大的PHP库. PHP中的CURL函数库(Client URL Library Function) curl_close — 关闭一个curl会话 curl_copy_handle — 拷贝一个curl连接资源的所有内容和参数 cu

PHP cURL函数库

index.php <?php/*使用PHP的cURL库可以简单和有效地去抓网页.只需要运行一个脚本,然后分析一下所抓取的网页,然后就可以以程序的方式得到想要的数据了.无论是想从一个链接上取部分数据,或是取一个XML文件并把其导入数据库,那怕就是简单的获取网页内容,cURL 是一个功能强大的PHP库可模拟登录,但尚未实现开启验证码的的论坛登录功能 需先打开PHP.ini配置文件启用 extension=php_curl.dll 库php curl库包含方法 curl_init — 初始化一个cu

cURL函数库错误码说明之PHP curl_errno函数

背景概述:游戏接口是使用PHP cURL扩展进行请求操作.但是,被请求的服务器经常会无故的不响应或者超时.总之,就是请求之后收不到响应回来的数据.这时候可不能说对方API接口有问题,或者,服务器有故障.总之,可能出现的问题是非常之多.不能一概而论. 一.给出一段常用的PHP cURL代码: function sendRequestGame($url) { $header = array('Expect:'); $ch = curl_init(); curl_setopt($ch, CURLOPT

浅谈attr() 和prop() 函数

作为数聚传媒的一名前端开发人员,会经常使用到jQuery,但是,在使用jQuery中的函数开发效果的时候,总会出现一些细微的小问题,今天我们就来谈谈,jQuery中一些相似却不同的函数的使用方法.以下将会通过attr()和prop()为例,进行详细解析. 很明显,"attr"和"prop"分别是单词"attribute"和"property"的缩写,并且它们均表示"属性"的意思.attr()函数和prop(

浅谈Kotlin中的函数

本文首发于 vivo互联网技术 微信公众号 链接:https://mp.weixin.qq.com/s/UV23Uw_969oVhiOdo4ZKAw作者:连凌能 Kotlin,已经被Android官方宣布 kotlin first 的存在,去翻 Android 官方文档的时候,发现提供的示例代码已经变成了 Kotlin.Kotlin的务实作风,提供了很多特性帮助开发者减少冗余代码的编写,可以提高效率,也能减少异常. 本文简单谈下Kotlin中的函数,包括表达式函数体,命名参数,默认参数,顶层函数