安装 CentOs 系统 及 Python 及 Scrapy 框架

1: 先安装Centos 系统:

为什么选择CentOs系统,而不选择Ubuntu ?

我在Ubuntu上尝试了三次安装 python 和 Scrapy ,结果都没成功,在运维老王的建议下 使用CentOs ;

( 忍不住吐槽一下,python 安装包 依赖包  安装起来 真费劲! )

2: CentOs安装过程

整体安装过程比较顺利  ,  比Ubuntu 简单多了 ;  我选择了一个mini的ios 安装之后 也没有 桌面环境 , 挺好 ,符合需求.

安装好之后的界面: 命令行环境 , 挺好 .

3: 使用MobaXterm  SSH 工具来链接 CentOs

需要知道CentOs系统的ip地址 :

那就去查 ifconfig -a   结果呢 这个命令没有 ,可以理解 因为装的是 mini os  一些没有可以理解 ,没有就自己去安装呗;

CentOS 7最小化安装后找不到‘ifconfig’命令——修复小提示

CentOS7用yum安装软件提示 cannot find a valid baseurl for repobase7x86_64

上面这两条都用的着  也测试过 可以使用 ;

链接上之后 如下图所示:

4 接下来就看看 安装 python  顺利不?

安装python 之前先看一下 系统有没有自带python

看来 他 自带的是 python 2.7  ; 我这里需要的是 python 3.6

那就自己安装 python3.6 并设为系统默认的

下面方法只能用于centos7 或者el7内核
yum -y update
yum -y install https://centos7.iuscommunity.org/ius-release.rpm

安装最新版本Python3.6.x
yum -y install ncurses-devel gdbm-devel xz-devel tk-devel
yum -y install gcc openssl-devl mysql-devl zlib-devl
yum -y install python36u python36u-libs python36u-pip python36u-devel

创建软链接
ln -s /usr/bin/python3.6 /usr/bin/python3
ln -s /usr/bin/pip3.6 /usr/bin/pip3

pip3 install --upgrade pip

另外Python 3.6 可直接使用 python3 -m venv venv_name 创建虚拟环境

下面就先创建一个虚拟环境

python3 -m venv scrapy_venv

激活虚拟环境

source /opt/python_venv/scrapy_venv/bin/activate

pip install -r requirement.txt 

下面文件: requirement.txt

asn1crypto==0.24.0
attrs==17.4.0
Automat==0.6.0
certifi==2018.1.18
cffi==1.11.5
chardet==3.0.4
constantly==15.1.0
cryptography==2.1.4
cssselect==1.0.3
hyperlink==18.0.0
idna==2.6
incremental==17.5.0
lxml==4.1.1
numpy==1.14.1
opencv-python==3.4.0.12
parsel==1.4.0
Pillow==5.0.0
pyasn1==0.4.2
pyasn1-modules==0.2.1
pycparser==2.18
PyDispatcher==2.0.5
PyMySQL==0.8.0
pyOpenSSL==17.5.0
pytesseract==0.2.0
python-logstash==0.4.6
qiniu==7.2.0
queuelib==1.4.2
redis==2.10.6
requests==2.18.4
Scrapy==1.5.0
scrapy-splash==0.7.2
scrapyd-client==1.1.0
service-identity==17.0.0
six==1.11.0
Twisted==17.9.0
urllib3==1.22
w3lib==1.19.0
zope.interface==4.4.3

至此  基本上完成了 .

原文地址:https://www.cnblogs.com/sanmubird/p/8820574.html

时间: 2024-12-13 15:05:58

安装 CentOs 系统 及 Python 及 Scrapy 框架的相关文章

cobbler安装centos系统

整个安装系统的流程与pxe还是一样的,只不过由手动变成了自动,各个版本之间也更好管理. 这里还是centos系统的.cobbler的大致基础使用. 环境: 平台:VirtualBox 虚拟机 服务机:CentOS7 所安装的系统:CentOS7, CentOS6 cobbler里面有几个概念要首先了解一下: distro: 用来标识一个发行版.因为安装不同版本的系统起码要用不同的内核与initrd来启动安装程序.这个就是用来区分它们的.注意distro主要是来标识不同的内核与initrd,与整个

python爬虫scrapy框架——人工识别登录知乎倒立文字验证码和数字英文验证码(2)

操作环境:python3 在上一文中python爬虫scrapy框架--人工识别登录知乎倒立文字验证码和数字英文验证码(1)我们已经介绍了用Requests库来登录知乎,本文如果看不懂可以先看之前的文章便于理解 本文将介绍如何用scrapy来登录知乎. 不多说,直接上代码: import scrapy import re import json class ZhihuSpider(scrapy.Spider): name = 'zhihu' allowed_domains = ['www.zhi

virturalbox 安装centos系统,设置双网卡实现虚拟机上网及主宿互访

一:安装centos系统到virtualbox中,注意事项:安装过程中设置了网络连接信息,将ipv4设置为手动,地址为192.168.56.101,网关为192.168.56.0(以为是host-only 模式) 二:启动centos a.查看 /etc/sysconfig/network-scripts/ifcfg-enp0s* b.检查是否连上网:ping www.baidu.com c.安装常用命令:yum -y install net-tools,yum -y install vim,y

在vmware虚拟机中安装centos系统并使用LNMP安装部署环境

一.介绍:题目有点绕口,大概意思就是分两步完成,首先在vmware虚拟机中安装centos系统,然后在centos系统中使用lnmp安装包安装项目部署环境.      准备工作(很重要,所需安装软件如果都没找对,怎么能安装成功) 1.下载vmware,这个好找,直接百度搜索“vmware 下载”,能找到安装软件. 2.下载CentOS,这个需要注意点: 如果系统是32位就点这个:http://mirror.symnds.com/distributions/CentOS-vault/6.3/iso

yum安装centos系统依赖库

安装centos系统依赖库,安装软件过程中,经常需要的一些库,可以在编译安装软件前执行如下命令: 首先更新系统(这步可以不执行) yum -y update 预安装 编译器及库文件 yum -y install make cmake gcc g++ gcc-c++ gcc-g77 libtool autoconf automake imake libxml2-devel expat-devel yum -y install ncurses ncurses-devel pcre pcre-deve

2、vmware安装centos系统以及基本的系统优化-鑫鑫linux运维网络培训

本节课主要讲解了安装centos系统以及基本的系统优化 更多视频试听课程:http://yunpan.cn/cVSrHAk8ExAd9  访问密码 aa19

CentOS7上安装并配置KVM,以及通过KVM安装CentOS系统

笔记内容:CentOS7上安装并配置KVM,以及通过KVM安装CentOS系统笔记日期:2018-03-07 28.5 Centos7上安装KVM 28.6 配置网卡 28.7 创建虚拟机安装CentOS7 28.8 虚拟机管理 Centos7上安装KVM 首先我们需要一台配置较高的CentOS7虚拟机,当然用物理机也可以,我这里用的是虚拟机,配置如下: 硬盘需要新增一个,其中的新硬盘用于在KVM里安装操作系统时需要用到,内存的大小最好有4个G,最低2个G,因为我这里物理机的内存有16G所以就给

PXE自动化安装centos系统

PXE自动化安装centos系统 ①安装前准备:关闭防火墙和SELINUX,DHCP服务器静态IP iptables -vnL #查看防火墙状态 systemctl stop firewall #关闭防火墙 getenforce #查看SELinux状态 setenforce 0 #禁用SELinux cat > /etc/sysconfig/network-scripts/ifcfg-ens37 <<EOF DEVICE=ens37 #网卡名称 ONBOOT=yes #开启网卡 BOO

Linux的发展,创建虚拟机并安装CentOS系统,

第1章 Linux的发展1.1. Linux发展 unix诞生1969年的贝尔实验室. 1986年Andrew S.Tanenbaum(谭邦宁)开发minix(mini unix),主要用于教学. Richhard Stallman(斯托曼)公司:自由软件基金会FSF 项目:葛奴计划GNUGNU=GNU is not unix优秀软件:bash(命令解释器),gawk(三剑客),emacs,gccGPL:通用公共许可a. 开源的免费传播,随意传播b. 随意修改,修改之后必须把修改的内容发出来GN