爬虫之遇到403 Forbidden,你该怎么办?

大数据时代下,数据采集推动着数据分析,数据分析推动发展。但是在这个过程中会出现很多问题。拿最简单最基础的爬虫采集数据为例,过程中就会面临,IP被封,爬取受限、违法操作等多种问题,当你采集数据最起劲儿的时候,突然网页跳出403 Forbidden的提示。
所以在爬取数据之前,一定要了解好 预爬网站是否涉及违法操作,找到合适的代理IP访问网站等一系列问题,太阳HTTP服务应运而生。
让我们先来看一下你所遭遇的403错误到底是怎么回事儿吧!

一、导致403错误出现的直接原因
1、你的IP被列入黑名单。
2、你在一定时间内过多地访问此网站(一般是用采集程序),被防火墙拒绝访问了。
3、网站域名解析到了空间,但空间未绑定此域名。
4、你的网页脚本文件在当前目录下没有执行权限。
5、在不允许写/创建文件的目录中执行了创建/写文件操作。
6、以http方式访问需要ssl连接的网址。
7、浏览器不支持SSL 128时访问SSL 128的连接。
8、在身份验证的过程中输入了错误的密码。
9、DNS解析错误,手动更改DNS服务器地址。
10、连接的用户过多,可以过后再试。
11、服务器繁忙,同一IP地址发送请求过多,遭到服务器智能屏蔽。

二、403 forbidden出现的逻辑原理
403 Forbidden是HTTP协议中的一个状态码(Status Code)。可以简单的理解为没有权限访问此站。该状态表示服务器理解了本次请求但是拒绝执行该任务,该请求不该重发给服务器。在HTTP请求的方法不是“HEAD”,并且服务器想让客户端知道为什么没有权限的情况下,服务器应该在返回的信息中描述拒绝的理由。在服务器不想提供任何反馈信息的情况下,服务器可以用404 Not Found代替403 Forbidden。

三、403错误代码的分类介绍
403.1?
403.1错误是由于”执行”访问被禁止而造成的,若试图从目录中执行CGI、ISAPI或其他可执行程序,但该目录不允许执行程序时便会出现此种错误。?
403.2?
403.2错误是由于”读取”访问被禁止而造成的。导致此错误是由于没有可用的默认网页并且没有对目录启用目录浏览,或者要显示的HTML网页所驻留的目录仅标记为”可执行”或”脚本”权限。?
403.3?
403.3错误是由于”写入”访问被禁止而造成的,当试图将文件上载到目录或在目录中修改文件,但该目录不允许”写”访问时就会出现此种错误。?
403.4?
403.4错误是由于要求SSL而造成的,您必须在要查看的网页的地址中使用”https”。?
403.5?
403.5错误是由于要求使用128位加密算法的Web浏览器而造成的,如果您的浏览器不支持128位加密算法就会出现这个错误,您可以连接微软网站进行浏览器升级。?
403.6?
403.6错误是由于IP地址被拒绝而造成的。如果服务器中有不能访问该站点的IP地址列表,并且您使用的IP地址在该列表中时您就会返回这条错误信息。?
403.7?
403.7错误是因为要求客户证书,当需要访问的资源要求浏览器拥有服务器能够识别的安全套接字层(SSL) 客户证书时会返回此种错误。?
403.8?
403.8错误是由于禁止站点访问而造成的,若服务器中有不能访问该站点的DNS名称列表,而您使用的DNS名称在列表中时就会返回此种信息。请注意区别403.6与403.8错误。?
403.9?
403.9错误是由于连接的用户过多而造成的,由于Web服务器很忙,因通讯量过多而无法处理请求时便会返回这条错误。?
403.10?
403.10错误是由于无效配置而导致的错误,当您试图从目录中执行CGI、ISAPI或其他可执行程序,但该目录不允许执行程序时便会返回这条错误。?
403.11?
403.11错误是由于密码更改而导致无权查看页面。?
403.12?
403.12错误是由于映射器拒绝访问而造成的。若要查看的网页要求使用有效的客户证书,而您的客户证书映射没有权限访问该Web站点时就会返回映射器拒绝访问的错误。?
403.13?
403.13错误是由于需要查看的网页要求使用有效的客户证书而使用的客户证书已经被吊销,或者无法确定证书是否已吊销造成的。?
403.14?
403.14错误Web 服务器被配置为不列出此目录的内容,拒绝目录列表。?
403.15?
403.15错误是由于客户访问许可过多而造成的,当服务器超出其客户访问许可限制时会返回此条错误。?
403.16?
403.16错误是由于客户证书不可信或者无效而造成的。?
403.17?
403.17错误是由于客户证书已经到期或者尚未生效而造成的。

四、解决403 forbidden错误的方法
1、重建dns缓存
对于一些常规的403 forbidden错误,马海祥建议大家首先要尝试的就是重建dns缓存,在运行中输入cmd,然后输入ipconfig /flushdns即可。如果不行的话,就需要在hosts文件里把主页解析一下了。?
同时,查看是否在网站虚拟目录中添加默认文档,一般默认文档为:index.html;index.asp;index.php;index.jsp;default.htm;default.asp等,如下图所示:?
403 Forbidden错误的原因和解决方法-马海祥博客
2、修改文件夹安全属性
用以下命令修改文件夹安全属性?
chcon -R -t httpd_user_content_t public_html/?
所用命令解析:?
ls -Z -d public_html/?
#显示文件/目录的安全语境-Z, –context?
Display security context so it fits on most displays. Displays only mode, user, group, security context and file name.-d, –directory?
list directory entries instead of contents, and do not dereference symbolic links?
chcon -R -t httpd_user_content_t public_html/?
#修改文件/目录的安全语境-R, –recursive?
change files and directories recursively-t, –type?
set type TYPE in the target security context
3、关于apache导致的403 forbidden错误的解决办法
打开apache的配置文件httpd.conf,找到这段代码:?
Options FollowSymLinks?
AllowOverride None?
Order deny,allow?
Deny from all?
有时候由于配置了php后,这里的“Deny from all”已经拒绝了一切连接。把该行改成“allow from all”,修改后的代码如下,问题解决。?
Options FollowSymLinks?
AllowOverride None?
Order deny,allow?
Allow from all?
之所以会出现错误,是因为大多数的国外主机在配置Apache的时候启用了mod_security,也就是开启了安全检查,如果提交的信息中包含select , % , bin等关键字,Apache就会禁止,并给出403,404,500等错误。
4、关于HawkHost空间出现403 Forbidden错误的解决方法
有的时候在共享服务器上安装了Mod security,当网址包含有“%”号等其它敏感字符时,就会被Mod security阻止,马海祥博客曾经也出现过此情况。?
解决HawkHost 403 Forbidden 错误的方法:?
在.htaccess文件里添加如下代码:?
SecFilterEngine Off?
SecFilterScanPOST Off?
直接放在网站的根目录或者程序运行的目录下。
5、关于WordPress导致的403 Forbidden错误解决方法
对于一些使用WordPress管理程序搭建的博客来说,就需要修改.htaccess文件,在后面添加上如下内容即可,其实就是disable mod_security?
SecFilterEngine Off?
SecFilterScanPOST Off?
另外dedecms的可能还需要再加一条,以让默认访问的是index.html文件的DirectoryIndex index.html。?
修改.htaccess文件,将文件上传之后,再重新打开之前出现403 Forbidden的URL就没有再出现错误,直接可以打开了。?

使用优质的代理ip是能够有效避免遭遇403forbidden的手段,比如太阳HTTP可为您提供海量IP资源。

原文地址:http://blog.51cto.com/14059916/2315487

时间: 2024-10-09 14:22:33

爬虫之遇到403 Forbidden,你该怎么办?的相关文章

爬虫403问题解决urllib.error.HTTPError: HTTP Error 403: Forbidden

一.爬虫时,出现urllib.error.HTTPError: HTTP Error 403: Forbidden Traceback (most recent call last):   File "D:/访问web.py", line 75, in <module>     downHtml(url=url)   File "D:/urllib访问web.py", line 44, in downHtml     html=request.urlre

urllib.error.HTTPError: HTTP Error 403: Forbidden

问题: urllib.request.urlopen() 方法经常会被用来打开一个网页的源代码,然后会去分析这个页面源代码,但是对于有的网站使用这种方法时会抛出"HTTP Error 403: Forbidden"异常 例如 执行下面的语句时 [python] <span style="font-size:14px;"> urllib.request.urlopen("http://blog.csdn.net/eric_sunah/articl

解决git提交问题error: The requested URL returned error: 403 Forbidden while accessing

git提交代码时,出现这个错误"error: The requested URL returned error: 403 Forbidden while accessing https" 解决方法: 编辑.git文件夹下的config文件就可以. vim .git/config #改动对于的配置 #原来的url = https://github.com/elitecodegroovy/PhoenixC.git url = https://[email protected]/elitec

Nagios HTTP WARNING: HTTP/1.1 403 Forbidden

当我们第一次搭建好nagios后会有Nagios HTTP WARNING: HTTP/1.1 403 Forbidden告警 要解决这个问题, 可以创建一个html文件,然后重启两个服务,等待几分钟后即可正常 [[email protected] ~]# touch /var/www/html/index.html [[email protected] ~]# /etc/init.d/nagios restart [[email protected] ~]# /etc/init.d/httpd

解决github push错误The requested URL returned error: 403 Forbidden while accessing

来源:http://blog.csdn.net/happyteafriends/article/details/11554043 github push错误: [html] view plaincopyprint? git push error: The requested URL returned error: 403 Forbidden while accessing https://github.com/wangz/future.git/info/refs git version 1.7.

Nginx网站根目录更改及导致403 forbidden的问题解决

最近因为工作需要,要将Nginx网站根目录更改下,通过网上的一些教程更改后,但发现测试的时候一直提示403 forbidden错误,后台通过一个朋友的提示也解决了,所以现在将详细的步骤分享给大家,有需要的朋友们可以参考学习. 一.更改根目录 Nginx默认网站根目录为/usr/local/nginx/html,要将它改成/home/fuxiao/www 更改方法: ? 1 vi /usr/local/nginx/conf/nginx.conf 将其中的 ? 1 2 3 4 location /

WampServer 2.5设置外网访问/局域网手机访问(403 Forbidden错误解决方法)

安装好wamp后,想用手机通过局域访问电脑上wamp下的网页,结果出现如下提示. (403 Forbidden)错误 1.打开http.conf文件 2.找到下图中红色方框中的onlineoffline tag - don't remove,将原来的Require local替换为Require all granted: 注意几种常用格式,自己可以灵活配置: Require local 仅允许本地访问: Require all denied 拒绝所有访问: Require all granted

Apache error: 403 Forbidden You don&#39;t have permission to access

CentOS 6 solution: chcon -t httpd_sys_content_t -R /directory refer to: https://www.centos.org/forums/viewtopic.php?f=19&t=15128&start=10#p70999 Apache error: 403 Forbidden You don't have permission to access

Nginx报错403 forbidden (13: Permission denied)的解决办法

由于开发需要,在本地环境中配置了LNMP环境,使用的是Centos 6.5 的yum安装,安装一切正常,但是由于默认网站文件夹比较奇葩,于是把网站文件用mv命令移动到了新的目录,并相应修改了配置文件,并重启Nginx. 那么好,问题来了!本以为重启就OK了.居然报个“403 is forbidden“的错误..查看/var/log/nginx/error.log日志显示:xxx 403 forbidden (13: Permission denied)错误.我勒个去~ 引起nginx 403 f