项目 --- 开发环境搭建

项目环境配置

工程创建:[爬虫工程为例,web工程类似] 

  最好做到一个项目一个虚拟环境。项目多后方便查看项目所用各工具的版本。

  1. 先在终端: cd到存放的目录下并进入虚拟环境
  2. 创建项目: scrapy startproject 工程项目名
    1. cd到项目的根目录                                 [一个项目一个虚拟环境的创建虚拟环境方式]  
    2. 虚拟环境: mkvirtualenv 虚拟环境名            [建虚拟环境要在项目的根目录下建]
    3. 进入环境: source 虚拟环境名/bin/activate  [虚拟环境目录在此项目的根目录下]
    4. 建包文件: touch requirements.txt              [新建一个txt文件,用来存放安装的工具包名称]
    5. 进入文件: vim requirements.txt                 [编辑输入需要的包文件名称,并保存退出]
    6. 执行文件: pip install -r requirements.txt     [执行该文件会安装里面的包文件;可以pip freeze > requirements.txt生成该文件]
    7. 创建爬虫: scrapy genspider 爬虫名 域名     [爬虫名最好起爬哪一个板块叫哪一个板块名称,不要和项目名同名]
    8. 打开项目: 用pycharm打开此项目。
  3. 然后再在: pycharm中打开此项目(空工程)  
  4. 创建爬虫: scrapy genspider 爬虫名 该网站域名    pycharm终端[[email protected] ~/pyword/spider05/MyScrapy] $scrapy genspider budejie budejie.com
  5. 运行爬虫: scrapy crawl 爬虫名 [-o xx.json/xml/csv] scrapy crawl qiubai -o budejie.json
  6. 代码调试: scrapy shell
  7. 查看版本: scrapy version
  8. 具体查看: 查看运行scrapy的python版本:
    1.   which scrapy 找到scrapy文件存储路径 。scrapy文件是一个可执行文件(也可说是一个python文件)
    2.   vim  查找到的路径。打开此可执行文件后的第一行 #!表示执行此可执行文件的解释器(python)的路径
    3.   此python解释器的路径 + -V   命令即可知道此执行文件scrapy的解释器python的版本号是多少。

原文地址:https://www.cnblogs.com/TMMM/p/11773369.html

时间: 2024-11-02 14:01:54

项目 --- 开发环境搭建的相关文章

Hive项目开发环境搭建(Eclipse\MyEclipse + Maven)

写在前面的话 可详细参考,一定得去看 HBase 开发环境搭建(Eclipse\MyEclipse + Maven) Zookeeper项目开发环境搭建(Eclipse\MyEclipse + Maven) 我这里,相信,能看此博客的朋友,想必是有一定基础的了.我前期写了大量的基础性博文.可以去补下基础. 步骤一:File  ->  New  -> Project   ->  Maven Project 步骤二:自行设置,待会创建的myHBase工程,放在哪个目录下. 步骤三: 步骤四:

Hadoop项目开发环境搭建(Eclipse\MyEclipse + Maven)

写在前面的话 可详细参考,一定得去看 HBase 开发环境搭建(Eclipse\MyEclipse + Maven) Zookeeper项目开发环境搭建(Eclipse\MyEclipse + Maven) Hive项目开发环境搭建(Eclipse\MyEclipse + Maven) MapReduce 开发环境搭建(Eclipse\MyEclipse + Maven) 我这里,相信,能看此博客的朋友,想必是有一定基础的了.我前期写了大量的基础性博文.可以去补下基础. 步骤一:File  ->

iOS项目——项目开发环境搭建汇总

iOS项目--项目开发环境搭建 在开发项目之前,我们需要做一些准备工作,了解iOS扩展--Objective-C开发编程规范是进行开发的必备基础,学习iOS学习--Xcode9上传项目到GitHub是我们进行版本控制和代码管理的选择之一,明白iOS学习--iOS项目Project 和 Targets配置详解则更利于我们今天对完整项目开发环境的搭建,这些内容在在之前的博文中都已经有了一些总结和步骤说明,具体详情可以戳链接查看. 开发一个完整的App,不同于我们平时学习和练习时随意新建一个proje

iOS项目——微信H5棋牌牛牛斗牛出租平台项目开发环境搭建教程

在开发项目之前,我们需要做一些准备工作,了解iOS扩展--微信H5棋牌牛牛斗牛出租平台(h5.fanshubbs.com联系Q_1687054422),学习iOS学习--Xcode9上传项目到GitHub是我们进行版本控制和代码管理的选择之一,明白iOS学习--iOS项目Project 和 Targets配置详解则更利于我们今天对完整项目开发环境的搭建,这些内容在在之前的博文中都已经有了一些总结和步骤说明,具体详情可以戳链接查看. 开发一个完整的App,不同于我们平时学习和练习时随意新建一个pr

结对编程 贪吃蛇项目-开发环境搭建过程

贪吃蛇开发环境搭建 Python和pygame的安装过程 1.去官网下载python和pygame.(需注意自己电脑是32位的还是64位的) 2.安装pythone 和 pygame. 3.安装完成后,查看环境变量配置情况:计算机->属性->高级系统设置->环境变量->系统变量->Path. 4.在命令提示符中输入:python,验证是否安装成功,若提示是无效的命令,重启计算机,再输入python验证. 5.在Python IDLE中输入import pygame和pygam

结对编程项目-开发环境搭建过程

开发成员:2015035107169 焦广鑫 2015035107161 杜念泽 结对编程项目:四则元算器 这次我们开发的项目是四则运算器,用到的开发语言为python2.7,具体环境搭建链接为http://jingyan.baidu.com/article/eb9f7b6da950c4869364e8f5.html

新项目开发环境搭建遇到的问题排查(cannot assign requested address)

背景 搭建新的开发环境,机器是pe准备的一虚4 问题 在给机器安装ConfigServer,启动的时候抛异常. 一眼看出来肯定不是端口占用(有同事说是端口占用),心里估摸着应该是ip:port,其中一个的问题. 自然的,先问问"古哥",大多数人触发以上异常是因为短时间内大量的连接到是端口全部被占用. 我遇到的问题,netstat了一下,端口都没有被占用. 又开始郁闷了,到底什么原因导致的? 无意中想到了之前在项目实施过程中,遇到的host配置不对,导致的一系列的问题. 果断的看了看ho

vue前端项目开发环境搭建并用npm方式运行

1.下载node.js http://nodejs.cn/download/ 推荐下载 .mis安装包,下一步下一步... 安装完后,通过cmd控制台输入node -v 弹出版本号即成功 2.通过node.js中内置的npm(包/依赖)插件来下载其他开发所需的环境 注意:如设置了代理限制,可通过cmd控制台输入npm config set proxy=http://代理服务器地址:8080 设置代理(网络有代理限制时下载不到依赖包时,按需设置) npm config delete proxy 为

Forward团队-爬虫豆瓣top250项目-团队编程项目开发环境搭建过程

需要python环境 开发软件.开发环境安装: python2.7.5: 安装pycharm(社区版):