Python3.6下scrapy框架的安装

首先考虑使用最简单的方法安装

pip install scrapy

命令安装，提示

Failed building wheel for Twisted

Microsoft Visual C++ 14.0 is required...

于是开始问度娘应该怎样安装，看了几篇博客，虽然和我的问题不十分相同，但是也受到了启发，知道应该怎样解决我的问题了。解决问题的过程总结如下：

1、直接使用pip install scrapy安装不成功可以安装whl格式的包

首先下载scrapy的whl包

下载地址：http://www.lfd.uci.edu/~gohlke/pythonlibs/

在网页中搜索scrapy找到Scrapy?1.3.3?py2.py3?none?any.whl下载了scrapy的whl包先不要着急安装，接着

2、安装whl格式包需要安装wheel库
看到别人的博客上说可以直接使用pip install wheel安装wheel，由于我已经安装过wheel了，在这里就不用安装了，就没有测试怎么安装wheel。
没有安装过wheel库的请先安装。

3、scrapy依赖twiste，同样使用whl格式的包进行安装
还是进入http://www.lfd.uci.edu/~gohlke/pythonlibs/，在网页中搜索twisted找到其对应的whl包并下载

  • Twisted?17.1.0?cp36?cp36m?win_amd64.whl

根据你的Python的版本选择合适的包，名称中间的cp36是python3.6的意思，amd64是python的位数

下载完成后使用cmd打开windows的命令行窗口，进入whl包所在的文件夹执行如下命令

pip install [whl]

[whl]是whl包的名字，即：

pip install Twisted-17.1.0-cp36-cp36m-win_amd64.whl

Scrapy-1.3.3-py2.py3-none-any.whl包使用同样的方式安装，只是应该等到其所有依赖的包安装完成后才能进行安装，现在还不能安装

4、scrapy依赖lxml包，需要先安装lxml包，lxml包依赖libxml2，libxml2-devel，所以安装lxmllibxml2， libxml2-devel。幸运的是之前我之前已经安装过lxml

5、所有准备工作做完，终于可以安装scrapy包了，进入Scrapy-1.3.3-py2.py3-none-any.whl所在的目录

pip install Scrapy-1.3.3-py2.py3-none-any.whl

Successfully ! 先别急着撒花，是否真的安装成功了，还需要验证，输入scrapy -h

显示scrapy的相关信息，大功告成，撒花~~~

原文地址：https://www.cnblogs.com/zhouxinfei/p/8322231.html

时间： 2024-10-03 07:28:46

Python3.6下scrapy框架的安装的相关文章

Windows和Linux下scrapy框架的安装

windows下安装: 1.安装Anaconda环境管理工具 也可以使用pip安装,值得注意的是如果你使用的是pip安装,你需要解决相应的包依赖(解决依赖一般会让你怀疑人生.怀疑scrapy,建议还是用Anaconda安装,少年!) Anaconda 下载地址:https://www.anaconda.com/download/    里面有不同的平台,不同的版本,根据您的平台进行下载即可!这里的话建议大家下载Anaconda全包,而不是Miniconda,因为后者虽然小巧,但会出现一些问题,如

windows下scrapy框架学习笔记—'scrapy' 不是内部或外部命令

最近几天在深入的学习scrapy框架,但是装完各种需要的基础包之后却发现scrapy命令在别的路径下都用不了,我一开始是把python安装在F:\Python路径下的,安装了scrapy后它默认都会安装在这个路径下,scrapy在路径F:\Python\Scripts路径下,我的scrapy命令只能在此路径下用,因此创建什么工程也都只能在此文件下. 想了一下它的工作原理:它在F:\Python\Scripts路径下,就会在Scripts文件下存在一个scrapy批处理文件,那么在DOS下想要命令

【Scrapy框架的安装和基本用法】 𙦑

目录 原文: http://blog.gqylpy.com/gqy/361 @(Scrapy框架的安装和基本用法) 什么是Scrapy? ???????Scrapy是一个为了爬取网站数据,提取结构性数据而编写的应用框架,非常出名,非常强悍.所谓的框架就是一个已经继承了各种功能(高性能异步下载.队列.分布式.解析.持久化等)的具有很强通用性的项目模板.对于框架的研究,重点在于研究其框架的特性.各个功能的用法即可. 开始安装 如果是Windows系统,应按照下面的顺序进行安装: pip3 insta

Python中scrapy框架如何安装配置

在python学习群里发现很多学习网络爬虫技术的童靴都搞不懂python爬虫框架scrapy的安装配置,在学习python网络爬虫初级阶段的时候我们利用urllib和urllib2库以及正则表达式就可以完成了,不过遇到更加强大的爬虫工具--爬虫框架Scrapy,这安装过程也是煞费苦心哪,在此整理如下. Windows平台: 我的系统是Win7,首先,你要有Python,我用的是2.7.7版本,Python3相仿,只是一些源文件不同. 官网文档:http://doc.scrapy.org/en/l

python爬虫随笔-scrapy框架(1)——scrapy框架的安装和结构介绍

scrapy框架简介 Scrapy,Python开发的一个快速.高层次的屏幕抓取和web抓取框架,用于抓取web站点并从页面中提取结构化的数据.Scrapy用途广泛,可以用于数据挖掘.监测和自动化测试.(引用自:百度百科) scrapy官方网站:https://scrapy.org/ scrapy官方文档:https://doc.scrapy.org/en/latest/ scrapy框架安装 首先我们安装scrapy,使用如下命令 pip install scrapy 此时很多人应该都会遇到如

scrapy框架的安装

# 1.在安装scrapy前需要安装好相应的依赖库, 再安装scrapy, 具体安装步骤如下: (1).安装lxml库: pip install lxml (2).安装wheel: pip install wheel (3).安装twisted: pip install twisted文件路径 (twisted需下载后本地安装,下载地址:http://www.lfd.uci.edu/~gohlke/pythonlibs/#twisted) (版本选择如下图,版本后面有解释,请根据自己实际选择)

python第三方库scrapy框架的安装

1.确认python和pip安装成功 2.安装win32py          提供win32api,下载地址:https://sourceforge.net/projects/pywin32/files/ 3.安装lxml    lxml是一种使用 Python 编写的库,可以迅速.灵活地处理 XML.下载地址 https://pypi.python.org/pypi/lxml/3.3.1,可用pip下载, 下载命令:python -m pip install lxml 4.出现错误:Micr

关于Scrapy框架的安装

Scrapy介绍与环境安装 Scrapy介绍与环境安装 What is scrapy? An open source and collaborative framework for extracting the data you need from websites. In a fast, simple, yet extensible way.--Scrapy Home Page Scrapy是Python开发的一个快速web爬虫抓取框架,用于抓取web站点并从页面中提取结构化的数据.Scrap

windows2007环境Python3.5下paramiko模块的安装

Python中使用SSH需要用到OpenSSH,而OpenSSH依赖于paramiko模块,paramiko模块依赖于pycrypto模块. 安装过程参考:http://www.php.cn/python-tutorials-358832.html https://blog.csdn.net/hamutailang_/article/details/78895798 原文地址:https://www.cnblogs.com/gangzi4321/p/10962338.html