如何通过 Scrapyd + ScrapydWeb 简单高效地部署和监控分布式爬虫项目

来自 Scrapy 官方账号的推荐

需求分析

初级用户:

  • 只有一台开发主机
  • 能够通过 Scrapyd-client 打包和部署 Scrapy 爬虫项目,以及通过 Scrapyd JSON API 来控制爬虫,感觉命令行操作太麻烦,希望能够通过浏览器直接部署和运行项目

专业用户:

  • 有 N 台云主机,通过 Scrapy-Redis 构建分布式爬虫
  • 希望集成身份认证
  • 希望在页面上直观地查看所有云主机的运行状态
  • 希望能够自由选择部分云主机,批量部署和运行爬虫项目,实现集群管理
  • 希望自动执行日志分析,以及爬虫进度可视化
  • 希望在出现特定类型的异常日志时能够及时通知用户,包括自动停止当前爬虫任务

动图展示

集群多节点部署和运行爬虫项目:

安装和配置

  1. 请先确保所有主机都已经安装和启动 Scrapyd,如果需要远程访问 Scrapyd,则需将 Scrapyd 配置文件中的 bind_address 修改为 bind_address = 0.0.0.0,然后重启 Scrapyd。
  2. 开发主机或任一台主机安装 ScrapydWebpip install scrapydweb
  3. 运行命令 scrapydweb -h将在当前工作目录生成配置文件 scrapydweb_settings.py,可用于下文的自定义配置。
  4. 启用 HTTP 基本认证:
    ENABLE_AUTH = True
    USERNAME = ‘username‘
    PASSWORD = ‘password‘
  5. 添加 Scrapyd server,支持字符串和元组两种配置格式,支持添加认证信息和分组/标签:
    SCRAPYD_SERVERS = [
    ‘127.0.0.1‘,
    # ‘username:[email protected]:6801#group‘,
    (‘username‘, ‘password‘, ‘localhost‘, ‘6801‘, ‘group‘),
    ]
  6. 通过运行命令 scrapydweb 启动 ScrapydWeb

访问 Web UI

通过浏览器访问 http://127.0.0.1:5000,输入认证信息登录

  • Overview 页面自动输出所有 Scrapyd server 的运行状态
  • 通过分组和过滤可以自由选择若干台 Scrapyd server,调用 Scrapyd 提供的所有 HTTP JSON API,实现一次操作,批量执行

部署项目

  • 支持指定若干台 Scrapyd server 部署项目
  • 通过配置 SCRAPY_PROJECTS_DIR 指定 Scrapy 项目开发目录,ScrapydWeb 将自动列出该路径下的所有项目,选择项目后即可自动打包和部署指定项目:
  • 如果 ScrapydWeb 运行在远程服务器上,除了通过当前开发主机上传常规的 egg 文件,也可以将整个项目文件夹添加到 zip/tar/tar.gz 压缩文件后直接上传即可,无需手动打包:)

运行爬虫

  • 通过下拉框直接选择 project,version 和 spider
  • 支持传入 Scrapy settings 和 spider arguments
  • 同样支持指定若干台 Scrapyd server 运行爬虫

日志分析和可视化

  • 默认情况下,ScrapydWeb 将在后台定时自动读取和分析 Scrapy log 文件并生成 Stats 页面
  • 爬虫进度可视化

邮件通知

基于后台定时读取和分析 Scrapy log 文件,ScrapydWeb 将在满足特定触发器时发送通知邮件,邮件正文包含当前运行任务的统计信息。

1.添加邮箱帐号:

SMTP_SERVER = ‘smtp.qq.com‘
SMTP_PORT = 465
SMTP_OVER_SSL = True
SMTP_CONNECTION_TIMEOUT = 10

FROM_ADDR = ‘[email protected]‘
EMAIL_PASSWORD = ‘password‘
TO_ADDRS = [‘[email protected]‘]

2.设置邮件工作时间和基本触发器,以下示例代表:每隔1小时或某一任务完成时,并且当前时间是工作日的9点,12点和17点,ScrapydWeb 将会发送通知邮件。

EMAIL_WORKING_DAYS = [1, 2, 3, 4, 5]
EMAIL_WORKING_HOURS = [9, 12, 17]
ON_JOB_RUNNING_INTERVAL = 3600
ON_JOB_FINISHED = True

3.除了基本触发器,ScrapydWeb 还提供了多种触发器用于处理不同类型的 log,包括 ‘CRITICAL‘, ‘ERROR‘, ‘WARNING‘, ‘REDIRECT‘, ‘RETRY‘ 和 ‘IGNORE‘等。

LOG_CRITICAL_THRESHOLD = 3
LOG_CRITICAL_TRIGGER_STOP = True
LOG_CRITICAL_TRIGGER_FORCESTOP = False
# ...
LOG_IGNORE_TRIGGER_FORCESTOP = False

以上示例代表:当发现3条或3条以上的 critical 级别的 log 时,ScrapydWeb 自动停止当前任务,如果当前时间在邮件工作时间内,则同时发送通知邮件。

GitHub 开源

活捉几只官方大佬,赶紧前去围观吧,别忘了 Star 噢!

my8100 / scrapydweb

原文地址:http://blog.51cto.com/14090467/2321849

时间: 2024-10-05 07:07:20

如何通过 Scrapyd + ScrapydWeb 简单高效地部署和监控分布式爬虫项目的相关文章

纯手工打造简单分布式爬虫(Python)

前言 这次分享的文章是我<Python爬虫开发与项目实战>基础篇 第七章的内容,关于如何手工打造简单分布式爬虫 (如果大家对这本书感兴趣的话,可以看一下 试读样章),下面是文章的具体内容. 本章讲的依旧是实战项目,实战内容是打造分布式爬虫,这对初学者来说,是一个不小的挑战,也是一次有意义的尝试.这次打造的分布式爬虫采用比较简单的主从模式,完全手工打造,不使用成熟框架,基本上涵盖了前六章的主要知识点,其中涉及分布式的知识点是分布式进程和进程间通信的内容,算是对Python爬虫基础篇的总结. 现在

简单高效!25个漂亮的简约风格网站设计作品

在过去几年里,网站设计领域发生了巨大变化.除了 RWD(响应式网页设计)和 Web 字体的革命,现代设计的发展趋势迅速流行扁平化的配色方案,网页排版变得更加重要,重点已放在内容第一.最后,页面加载速度已成为决定你的网站成功的关键因素. 所有这一切都导致了整洁美观和简单易用网页设计趋势的流行.所以,经过这些年的尝试和努力后,我们已经真正进入到了简洁干净的网页设计的时代.下面选择了25个简约干净的网站,具备我们上面提到的所有因素,他们都以自己的方式来呈现美丽,你有什么感想? 您可能感兴趣的相关文章

jsp环境搭建 简单高效版

为了做一个jsp的小案例,首先最重要的是搭建好开发环境. 为此我在网上搜了很多教程,教程上都完全解决了,而我却因为粗心多花了1个小时,走了弯路.所以大家在配置的时候一定要细心哦~ 好,下面正式开启搭建之旅吧--> ·总体步骤: 注:下载前,请确定好你要用的jdk版本,因为jdk版本是要和tomcat的版本所对应的,本人因导师声明, 下载的是JDK1.7和tomcat7.0.X版本.myeclipse的话就用myeclipse10,当然更高版本也是OK的. 1.JDK下载安装-->配置环境变量

五十一 Python分布式爬虫打造搜索引擎Scrapy精讲—scrapyd部署scrapy项目

scrapyd模块是专门用于部署scrapy项目的,可以部署和管理scrapy项目 下载地址:https://github.com/scrapy/scrapyd 建议安装 pip3 install scrapyd 首先安装scrapyd模块,安装后在Python的安装目录下的Scripts文件夹里会生成scrapyd.exe启动文件,如果这个文件存在说明安装成功,我们就可以执行命令了 启动scrapyd服务 在命令输入:scrapyd 如图说明启动成功,关闭或者退出命令窗口,因为我们正真的使用是

论PHP模板的简单高效实现

大家都知道PHP是世界上最好的语言,PHP在项目开发中的灵活性是个非常重要的优点,非常适合经常变动的业务逻辑和页面内容,当然都离不开一个好用的模板引擎,市面上最常见的PHP模板引擎是smarty,但是smarty功能十分丰富,有些重量级了.那有没有更好的模板引擎呢? 先来探讨一下模板引擎的几大特点: 书写简单,执行速度,逻辑表达,方便扩展等.从这几方面看最适合的模板引擎就是PHP本身了,所有的要求都能满足要求,不管是smarty还是其他的模板引擎,在执行速度,逻辑表达,方便扩展的方面都不可能超过

[From 2.7]简单应用程序部署(程序集打包)

简单应用程序部署(程序集打包) windows Store打包 打包成.appx 非windows store应用打包 1.直接复制 2.使用.cab 3.打包成一个MSI(可做到按需安装----首次尝试加载一个程序集时才安装它) 原文地址:https://www.cnblogs.com/TheChenLin/p/10190302.html

简单高效,分享几款我在使用的效率神器

做一个积极的人 编码.改bug.提升自己 我有一个乐园,面向编程,春暖花开! 今天周六了,分享几款我目前在用的小工具,希望对你有用.使用工具的好处等等,我就不过多介绍了,下面文章的内容是先简单介绍这几款工具,然后说明一下我是怎么应用的.简单的一个思维导图,看下本文全貌: 神器介绍 1.火柴-效率神器 火柴官网(原火萤酱)是一款效率神器软件,支持Windows.Mac系统.具备文件秒搜,局域网秒传文件,局域网聊天的强大功能.[官网:http://huochaipro.com/] 有使用过Lista

Asp.Net Core部署:史上最简单的Web部署

简介 .net core的部署方式多种多样,最好的方式可能就是docker部署了,简单快速还可以集成CI/CD,不过这里给大家介绍的是最简单快速的部署方式,适合新手尝鲜也适合小型项目的单独部署. 本篇介绍的是Windows Server环境部署,了解其他部署方式的客官请止步. 准备 Windows Server服务器,安装.Net Core3.1 部署 Step1:发布Asp.Net Core项目 使用VS或cli dotnet publish -o publish发布项目,建议直接将发布到项目

Redis高可用部署及监控

Redis高可用部署及监控 目录                        一.Redis Sentinel简介 二.硬件需求 三.拓扑结构 1.单M-S结构 2.双M-S结构 3.优劣对比 四.配置部署 1.Redis配置 2.Redis Sentinel配置 3.启动服务 4.故障模拟检测 五.备份恢复 1.备份策略 2.灾难恢复 六.运维监控 1.安全监控 2.性能监控   一.           Redis Sentinel简介   Redis Sentinel是redis自带的集