Scrapy -- 04

翻译的官网文档质量不错啊,在看自己翻的,TAT。

Spider

  • class scrapy.spider.Spider #官网手册后面还有几个,例如CrawlSpider,但感觉还是这个用的多,github上的使用比例为30000对4300。如果CrawlSpider更好用,还望大神告知。
  • Spider是最简单的spider。每个其他的spider必须继承自该类(包括Scrapy自带的其他spider以及您自己编写的spider)。 Spider并没有提供什么特殊的功能。 其仅仅请求给定的 start_urls/start_requests ,并根据返回的结果(resulting responses)调用spider的 parse 方法。
    • closed(reason)
    • 当spider关闭时,该函数被调用。 该方法提供了一个替代调用signals.connect()来监听 spider_closed 信号的快捷方式。
    • log(message[, level, component])
    • 使用 scrapy.log.msg() 方法记录(log)message。 log中自动带上该spider的 name 属性。 更多数据请参见 Logging
    • parse(response)
    • 当response没有指定回调函数时,该方法是Scrapy处理下载的response的默认方法。

      parse 负责处理response并返回处理的数据以及(/或)跟进的URL。Spider 对其他的Request的回调函数也有相同的要求。

      该方法及其他的Request回调函数必须返回一个包含Request 及(或) Item的可迭代的对象。

      参数: response (Response) – 用于分析的response
    • make_requests_from_url(url)
    • 该方法接受一个URL并返回用于爬取的 Request 对象。 该方法在初始化request时被 start_requests() 调用,也被用于转化url为request。

      默认未被复写(overridden)的情况下,该方法返回的Request对象中,parse() 作为回调函数,dont_filter参数也被设置为开启。 (详情参见 Request).

    • start_requests() (处理需要登陆验证的注意:整点小号,小心封号!!)
    • 该方法必须返回一个可迭代对象(iterable)。该对象包含了spider用于爬取的第一个Request。

      当spider启动爬取并且未制定URL时,该方法被调用。 当指定了URL时,make_requests_from_url() 将被调用来创建Request对象。 该方法仅仅会被Scrapy调用一次,因此您可以将其实现为生成器。

      该方法的默认实现是使用 start_urls 的url生成Request。

      如果您想要修改最初爬取某个网站的Request对象,您可以重写(override)该方法。 例如,如果您需要在启动时以POST登录某个网站,你可以这么写:

      def start_requests(self):
          return [scrapy.FormRequest("http://www.example.com/login",
                                     formdata={‘user‘: ‘john‘, ‘pass‘: ‘secret‘},
                                     callback=self.logged_in)]def logged_in(self, response):
          # here you would extract links to follow and return Requests for
          # each of them, with another callback
          pass
    • start_urls
    • URL列表。当没有制定特定的URL时,spider将从该列表中开始进行爬取。 因此,第一个被获取到的页面的URL将是该列表之一。 后续的URL将会从获取到的数据中提取。
    • allowed_domains
    • 可选。包含了spider允许爬取的域名(domain)列表(list)。 当 OffsiteMiddleware 启用时, 域名不在列表中的URL不会被跟进。(一定要注意,要不然你怎么跪的都不知道,DEBUG的提示很坑爹的。)
    • name
    • 定义spider名字的字符串(string)。spider的名字定义了Scrapy如何定位(并初始化)spider,所以其必须是唯一的。 不过您可以生成多个相同的spider实例(instance),这没有任何限制。 name是spider最重要的属性,而且是必须的。

      如果该spider爬取单个网站(single domain),一个常见的做法是以该网站(domain)(加或不加 后缀 )来命名spider。 例如,如果spider爬取 mywebsite.com ,该spider通常会被命名为 mywebsite 。

以上是Scrapy.spider的组成。这里要说一下parse方法,这个方法必须返回Request和Item的可迭代对象。返回Item可以理解,为何要返回Request呢?事实上Scrapy调用了spider的parse方法,然后迭代得到的对象,并执行对象自身的callback函数。关于Scrapy架构的更详细情况,推荐这篇blog:http://blog.csdn.net/frylion/article/details/8558538。

利用上述特性,我们就可以执行递归抓取等操作。例如像http://www.newxue.com/gkmz/sgyy/这种,我们想要抓取每章的内容,就可以现在parse函数中抓取所有的章节url,然后生成request对象,url为章节url,毁掉函数为parse2,并编写parse2对章节内容进行抓取。就像这样:

#待完善,老板不让说抓的细节T_T
def parse(self, response):
    for i in response.xpath(xpath表达式):
        url = 章节url
        yield scrapy.Request(url,callback=self.parse_page2)
def parse_page2(self, response):
    # this would log http://www.example.com/some_page.html
    self.log("Visited %s" % response.url)

此外,如果需要在父页面抓取一些信息,在子页面另外抓取一些信息,可以利用scrapy.Request的meta字段:meta是一个字典,它会被浅拷贝到子parse的response.meta之中。你可以将items在父parse函数添加到meta之中,而在子parse函数中利用response.meta提取items。示例如下:

#这个暂时没用到。。。
def parse_page1(self, response):
    item = MyItem()
    item[‘main_url‘] = response.url
    request = scrapy.Request("http://www.example.com/some_page.html",
                             callback=self.parse_page2)
    request.meta[‘item‘] = item
    return request
def parse_page2(self, response):
    item = response.meta[‘item‘]
    item[‘other_url‘] = response.url
    return item

待续

时间: 2024-10-14 10:32:40

Scrapy -- 04的相关文章

精体展矿计运界布属点世据真起验青kPswaoY3w

社保划到税务征收,将大大提升社保费的征管效率.税务的征管能力是目前而言最强的,以后税务征收社保不是代收,属于本职了. 之前税局要把社保信息和交个税的工资比对起来有困难!现在好了,个税是自己的,社保也是自己的,比对困难?不存在的! 这一变革,会给那些不给员工上社保.不全额上社保的企业致命一击! 最新案例 前段时间的发改委关于限制特定严重失信人乘坐民航的一则意见--发改财金[2018]385号,其中还有税务总局的联合署名. http://weibo.com/20180408PP/2309279811

而广除还状么林验以适调半去gbQwsadnbQjN

为了从不同环节,尤其与广大使用人群直接关系的环节反映质量状况,对共享自行车投放点.运营仓库.生产企业等不同环节的产品抽查,覆盖了共享自行车从成品出厂到待投放的关键环节. 该负责人称,根据新车投放情况,结合共享自行车行业市场占有分布特点,本次重点抽查了摩拜.ofo.Hellobike三个品牌的产品,占本次抽查批次总数的83.3%.其中,在天津.无锡.武汉.广州.深圳.东莞6个城市抽查了9批次摩拜产品,占产品抽查批次总数的37.5%,抽查批次合格率88.9%,抽查不合格的1批次产品为待投放于广州市的

ubuntu14.04下安装爬虫工具scrapy

scrapy是目前准备要学习的爬虫框架,其在ubuntu14.04下的安装过程如下: ubuntu14.04下默认安装了2.7的python以及setuptools,若未安装,可通过下面指令安装: sudo apt-get install python sudo apt-get install python-setuptools 然后安装Twisted: sudo apt-get install python-twisted 然后是Scrapy: sudo apt-get install pyt

Ubuntu 14.04 安装 scrapy

按照官方文档的说明,安装scrapy 需要以下程序或者库: Python 2.7 lxml. Most Linux distributions ships prepackaged versions of lxml. Otherwise refer tohttp://lxml.de/installation.html OpenSSL. This comes preinstalled in all operating systems except Windows (see Platform spec

Ubuntu16.04安装爬虫框架scrapy

scrapy框架需要在Python 2.7,lxml,OpenSSL,pip程序或库的基础之上创建. 因此 ,首先,先检查下是否包含上述四个程序或库 [email protected]:~$ python Python 2.7.12 (default, Jul  1 2016, 15:12:24)  [GCC 5.4.0 20160609] on linux2 Type "help", "copyright", "credits" or &quo

2017.08.04 Python网络爬虫之Scrapy爬虫实战二 天气预报

1.项目准备:网站地址:http://quanzhou.tianqi.com/ 2.创建编辑Scrapy爬虫: scrapy startproject weather scrapy genspider HQUSpider quanzhou.tianqi.com 项目文件结构如图: 3.修改Items.py: 4.修改Spider文件HQUSpider.py: (1)先使用命令:scrapy shell http://quanzhou.tianqi.com/   测试和获取选择器: (2)试验选择

Scrapy 1.4 文档 04 例子

最好的学习方法是举例说明,Scrapy也不例外. 因此,我们有一个名为 quotesbot 的 Scrapy 项目,您可以通过它来学习更多关于 Scrapy 的知识. 它包含两个用于http://quotes.toscrape.com 的爬虫,一个使用 CSS 选择器,另一个使用 XPath 表达式. quotesbot 项目可从以下网址获得:https://github.com/scrapy/quotesbot. 您可以在项目的 README 中找到更多有关它的信息. 如果你熟悉 git,你可

2017.08.04 Python网络爬虫之Scrapy爬虫实战二 天气预报的数据存储问题

1.数据存储到JSon:程序阅读一般都是使用更方便的Json或者cvs等待格式,继续讲解Scrapy爬虫的保存方式,也就是继续对pipelines.py文件动手脚 (1)创建pipelines2json.py文件: import timeimport jsonimport codecs class WeatherPipeline(object): def process_item(self, item, spider): today=time.strftime('%Y%m%d',time.loc

ubuntu16.04 pip install scrapy 报错处理

Failed building wheel for Twisted inculde/site/python3.5/Twisted failed with error code 1 in tmp/pip-install-y4-0q..... sudo apt-get install build-essential libssl-dev libffi-dev python3.5-dev# 或者 sudo aptitude install python3.5-dev pip install scrap