如何使用robots不让百度和google收录

如何使用robots不让百度和google收录

  有没有想过,如果我们某个站点不让百度和google收录,那怎么办?

  搜索引擎已经和我们达成一个约定,如果我们按约定那样做了,它们就不要收录。

  这个写约定的的文件命名为:robots.txt。

  robots.txt是一个最简单的.txt文件,用以告诉搜索引擎哪些网页可以收录,哪些不允许收录。

  关于robots.txt一般站长需要注意以下几点:

  如果你的站点对所有搜索引擎公开,则不用做这个文件或者robots.txt为空就行。

  必须命名为:robots.txt,都是小写,robot后面加"s"。

  robots.txt必须放置在一个站点的根目录下。如:通过http://www.suiyan.cn/robots.txt 可以成功访问到,则说明本站的放置正确。

  一般情况下,robots.txt里只写着两个函数:User-agent和 Disallow。

  观察这个页面并修改为自己的:http://www.suiyan.cn/robots.txt

  有几个禁止,就得有几个Disallow函数,并分行描述。

  至少要有一个Disallow函数,如果都允许收录,则写: Disallow: ,如果都不允许收录,则写:Disallow: / (注:只是差一个斜杆)。

  补充说明:

  User-agent: * 星号说明允许所有搜索引擎收录

  Disallow: /search.html 说明 http://www.suiyan.cn/search.html 这个页面禁止搜索引擎抓取。

  Disallow: /index.php? 说明类似这样的页面http://www.suiyan.cn/index.php?search=%E5%A5%BD&action=search&searchcategory=%25 禁止搜索引擎抓取。

时间: 2024-10-18 02:21:35

如何使用robots不让百度和google收录的相关文章

Hexo提交百度和Google收录站点

本文源链接地址:https://www.93bok.com 网站的SEO对一个网站非常重要,SEO指的是搜索引擎优化.通过搜索引擎优化,可以提高网站的网站关键词排名以及博客文章的曝光度.一般来说,我们针对百度和Google这两个搜索引擎进行优化,提高对网站资源的索引量,使我们的文章更容易被发现. 一.站点地图 站点地图即sitemap,是一个页面,上面放置了网站上需要搜索引擎抓取的所有页面的链接.站点地图可以告诉搜索引擎网站上有哪些可供抓取的网页,以便搜索引擎可以更加智能地抓取网站. 生成站点地

浅谈asp.net通过本机cookie仿百度(google)实现搜索input框自动弹出搜索提示

对于通过用户输入关键词实现自动弹出相关搜索结果,这里本人给两种解决方案,用于两种不同的情形. 常见方法是在数据库里建一个用户搜索关系表,然后通过用户搜索框输入的关键字异步调用数据表中的相关数据,显示在一个隐藏div中. 第二种方式也就是我现在着重讨论的方式,适用于单个用户,基于此用户以往的搜索数据来实现搜索提示功能.技术关键是记录下用户的以往搜索数据,写入cookie,然后页面从用户本机cookie调用数据. ok,下面进入正题.本文主要讲实现步骤,代码可根据自己实际需要更改. 一,如何写入co

百度和 Google 的搜索技术是一个量级吗?

著作权归作者所有. 商业转载请联系作者获得授权,非商业转载请注明出处. 作者:Kenny Chao 链接:http://www.zhihu.com/question/22447908/answer/21435705 来源:知乎 很多答案是从使用上讲的,我加两个技术方面的. 搜索引擎需要对抓取到的结果进行管理.当索引结果越来越多时,保证存储和查询速度,保证数万台服务器内容一致的难度越来越高.Google于03至06年左右公布了三篇论文,描述了GFS.BigTable.MapReduce三种技术以解

网站被百度和google封了,怎么办?

很多站长总是抱着侥幸的心里,通过作弊的方式在搜索引擎上获得一定排名,以致于网站被百度和google封了,也就是所谓的被K站. 那么,要是网站被百度和Google封了,怎么办? 首先要确定你的网站已经被百度或google 封了.(如何判断网站是否被K站?) 谷歌从来都不会人工来检查或删除某一个网站,整个建立索引和排名的过程都用自动化的程序进行. 如果被百度封掉了,目前的办法是把任何可能涉及作弊的地方调整过来,然后再次提交网址, 接下来就是等待. 而谷歌提供了一个功能,你可以通过该功能把你的网址重新

百度与谷歌收录的流程

我们可以很明显的看出,谷歌的收录远远超过百度,可能大家都不是很清楚百度与谷歌收录的方式,因为百度收录于谷歌收录的流程不一样,所以才会导致百度收录比谷歌少,但是我们使用site命令查询不出来的,不代表百度没有检测到你的新页面,而是你的新页面没有通过百度算法的审核.那么今天冯耀宗与大家说说百度和谷歌收录规律. 一.百度收录核心点 1. 权重 当然我所说的权重不能够使用站长工具来定义,因为站长工具所谓的权重可以作弊,我说的权重是百度对你网站的信誉度问题.而百度官方没有用某一个词来定义信誉度,因此我个人

PHP判断URL地址百度是否已经收录并主动提交

/** * PHP检测URL地址百度是否已经收录 * @param string $url 要检测的URL地址 */ function Baidu($url) { $url = 'http://www.baidu.com/s?wd=' . urlencode($url); $curl = curl_init(); curl_setopt($curl, CURLOPT_URL, $url); curl_setopt($curl, CURLOPT_RETURNTRANSFER, 1); $conte

高德,百度,Google地图定位偏移以及坐标系转换

一.在进行地图开发过程中,我们一般能接触到以下三种类型的地图坐标系: 1.WGS-84原始坐标系,一般用国际GPS纪录仪记录下来的经纬度,通过GPS定位拿到的原始经纬度,Google和高德地图定位的的经纬度(国外)都是基于WGS-84坐标系的:但是在国内是不允许直接用WGS84坐标系标注的,必须经过加密后才能使用: 2.GCJ-02坐标系,又名"火星坐标系",是我国国测局独创的坐标体系,由WGS-84加密而成,在国内,必须至少使用GCJ-02坐标系,或者使用在GCJ-02加密后再进行加

2月全球搜索引擎市场份额之争:百度战胜Google夺冠

IDC评述网(idcps.com)02月19日报道:根据市场研究公司Net Applications最新数据显示,在2月全球搜索引擎市场份额大战中,Google-Global以58.44%的份额稳坐冠军宝座,环比上月,份额下降了4.30%.而亚军百度则持续稳步上升,份额涨至26.70%,环比增加8.02%,涨幅明显.下面,请看详细数据分析. (图1)2月全球搜索引擎市场份额分布图 如图1所示,2月份全球搜索引擎市场份额从大到小依次是Google-Global(58.44%).百度(26.70%)

除百度、Google外其他蜘蛛IP封锁脚本

#! /bin/bash # Aliyunbot/sbin/iptables -I INPUT -m iprange --src-range 110.75.160.0-110.75.191.255 -p tcp --dport 80 -j REJECT #Qihoo/sbin/iptables -I INPUT -m iprange --src-range 65.48.172.0-65.48.172.255 -p tcp --dport 80 -j REJECT #Sougo/sbin/ipta