从教务网爬虫程序到腾讯云上的运行

从教务网爬虫程序到腾讯云上的运行

主要内容有以下几方面:

  • pip3以及相关python包的安装
  • mysql数据库的连接以及相关操作
  • 腾讯云服务器的设置与连接,文件传输等操作

pip3以及相关python包的安装

在使用python3时,需要安装对应的pip版本,即pip3.ubuntu系统下的安装方式如下:

$ sudo apt-get install python3-pip

安装完成后就可以使用pip3来安装相应的python包,如requests包的安装方式如下:

$ sudo pip3 install requests

*当pip3从低版本升级到10.0后会出现cannot import name ‘main‘的问题,具体的解决步骤参考大佬博客,链接如下:

https://blog.csdn.net/qq_31643159/article/details/80045275*

mysql数据库的连接以及相关操作

在此次设计中,mysql数据库主要用于邮箱帐号存储,通知的存储(用于和下次爬取的数据进行比较,每次爬取完成后都对其进行更新)。在使用mysql数据库之前,需要安装pymysql包。

  1. mysql数据库的连接:

    con = pymysql.connect(host=‘localhost‘, user=‘root‘, passwd=‘****‘, db=‘JwLib‘, charset=‘utf8‘)

  2. 游标的创建:

    cursor = con.cursor()

  3. 相关操作的执行:

    cursor.execute("select TopTitle from TopNotice")

    cursor.execute("***************")

  4. 关闭游标与数据库

    cursor.close()

    con.close()


腾讯云服务器设置,连接,文件传输等操作

云服务器的使用需要进行购买,目前有阿里云,腾讯云等

  1. 在利用服务器进行邮件发送操作时,大多时候都会失败,因为腾讯云服务器是默认关闭了25号端口的,需要自行申请解封。解封方式比较简单,进入云服务器控制台,点击个人帐号即会出现25号端口解封的引导。
  2. 将编辑好的程序文件从ubuntu上传至服务器

    scp /home/qiao/python_file/test.py [email protected]***.152.***.1**:/home/ubuntu/python_file

    @后面的内容是云服务器的ip,执行上述命令之后,输入对应的密码即可(密码不可见)

    执行之后,即可将/home/qiao/python_file/test.py文件上传至服务器的/home/ubuntu/python_file文件夹下。

  3. ubuntu16.04登录云服务器(ubuntu系统)的命令如下:

    ssh [email protected]***.142.***

    @后面的内容是云服务器的ip,执行上述命令之后,输入对应的密码即可(密码不可见)。完毕之后就可以看到服务器的终端,然后进行相应的操作啦。

  4. 在云服务器上让程序一直不停地运行下去,命令如下:

    sudo nohup python3 test.py &

    采用nohup和&的结合操作,可以达到一直不停地运行的目的,可以关闭服务器终端,退出控制台等,程序都将运行下去,但必须保证服务器处于正常开机运行的状态。

原文地址:https://www.cnblogs.com/qws-1216/p/9161555.html

时间: 2024-11-02 14:12:17

从教务网爬虫程序到腾讯云上的运行的相关文章

微信小程序使用腾讯云IM(一):登录

微信小程序使用腾讯云IM 新项目已经完成很久啦,久的我都想放弃啦. 这个项目里主要的难点其实是1v1聊天.他们对比了好几家的即时通讯,最后选择了腾讯云通信.我猜,可能是因为腾讯云上说日活低于10w可以不付费吧.省钱嘛~踩坑踩了大概一周多两周了,就把一些步骤写下来,万一以后也会用到呢.不过,腾讯云的demo和sdk真的是万年不更新了,真的是好难用啊....坑都是自己一个一个踩一个一个填的. 1.下载sdk并且引用至项目 在官网中找到自己所需要的sdk并且下载,然后放在自己的项目中,引用进去. va

微信小程序集成腾讯云 IM SDK

微信小程序集成腾讯云 IM SDK 1.背景 因业务功能需求需要接入IM(即时聊天)功能,一开始想到的是使用 WebSocket 来实现这个功能,然天意捉弄(哈哈)服务器版本太低不支持 wx 协议(也就不支持 WebSocket了)不得不寻找第三方服务了,因客户端目前采用微信小程序来开发,那想到的肯定就是使用他们自家的IM功能了.至此就有了本篇文章了. 2.文档地址 1)腾讯云即时聊天:https://cloud.tencent.com/document/product/269 2)微信小程序D

微信小程序基于腾讯云对象存储的图片上传

在使用腾讯云对象存储之前,公司一直使用的是传统的FTP的上传模式,而随着用户量的不断增加,FTP所暴露出来的问题也越来越多,1.传输效率低,上传速度慢.2.时常有上传其他文件来攻击服务器,安全上得不到保障.所以我们在经过慎重考虑觉得使用第三方的云存储服务. 在最开始的时候我们在腾讯云与阿里云中选择,最终我们选择腾讯云,腾讯云在文件上传用时方面的性能比较突出,文件越大表现越好:在下载用时方面表现略优于阿里云:文件删除用时方面总体速度略逊于,但在不同大小文件删除用时上都比较稳定.当然这与我们主要用于

我在腾讯云上买了太CVM服务器,来配置下外网如何访问MySql全程实录

1.服务器申请 最近在给一个小企业做个报价系统,C#WPF框架开发,桌面程序.由于用户可能经常出差,更换电脑,因此考虑将程序的数据库放到外网服务器上,每次程序使用需要登录验证,有点类似QQ的方法.这里有人说为什么不直接做成web,桌面应用已经落伍了.确实如此,原因主要是这个企业的报价系统的前端交互太多,一堆的javascript代码,还有一堆的word报表输入输出,做成web太过麻烦.因此还是决定做成桌面应用程序.由于访问量和并发性并不大,因此考虑性能一般的云服务器就可以了. 正好赶上腾讯活动,

腾讯云上运行java程序过程

1: 购买服务器(腾讯云,阿里云等) 2:安装centos操作系统: 3:安装jdkhttp://www.cnblogs.com/Amos-Turing/p/7403696.html 4:安装数据库(postgresql)http://www.cnblogs.com/Amos-Turing/p/6625663.html 数据安装完,防火墙启动,数据库服务启动,等: 在设置一下/var/lib/pgsql/9.5/data 下的postgres.conf文件 如果不设置会遇到如下问题,创建数据库的

如何在腾讯云上搭建一个人力资源Saas

版权声明:本文由ihr原创文章,转载请注明出处: 文章原文链接:https://www.qcloud.com/community/article/180 来源:腾云阁 https://www.qcloud.com/community 在互联网盛行的时代,车联网,物联网相关的字眼随处可见.为了方便企业在员工管理上提供更为快捷有效地方式, ihr是基于当下主流企业人才管理方式及员工普及的社交方式微信的一个开放性平台.它包含企业端的招聘管理.员工管理,其中招聘管理又包含了面试通知邀请.到Offer发放

在腾讯云上配置mysql远程访问(windows)

第一步,user权限配置,网上大多数教程都是停留在这一步,不赘述了(phpstudy有个快捷方式,一键修改) 第二步,放开windows防火墙中的进入端口限制(防火墙->高级设置->进入规则->端口3306) 第三步,在腾讯云控制台的安全组里放开3306端口的进入规则. 此处吐槽一下,貌似控制台有点bug,多试几次…… 原文地址:https://www.cnblogs.com/onlyamoment/p/12675571.html

用VS2010编写的C++程序,在其他电脑上无法运行,提示缺少mfc100.dll的解决办法

问题: 在自己电脑上用VS2010编写的VC++程序(使用MFC库),不能在其他电脑上运行.双击提示: "无法启动此程序,因为计算机中丢失mfc100.dll 尝试重新安装该程序以解决此问题." 解决方案: 方案一 采用静态编译使用VS2010编译的程序在windowsxp中运行时,经常会出现找不到相关的DLL文件,我们可以使用静态编译的方法把这些运行依赖文件打包到*.exe中来,以减少对环境的依赖. 一般可以配置以下两项: 项目 -< **属性 -< 配置属性-<

【腾讯云的1001种玩法】在腾讯云上创建您的SQL Cluster(5)

版权声明:本文由李斯达 原创文章,转载请注明出处: 文章原文链接:https://www.qcloud.com/community/article/97264001482830465 来源:腾云阁 https://www.qcloud.com/community 导语 终于到了本系列最后一篇,在上一篇中,我们准备好了各种资源,包括搭建SQL Cluster群集的底层,在发布了前面四篇后我收到了大量反馈,现在集中回答下 终于到了本系列最后一篇,在上一篇中,我们准备好了各种资源,包括搭建SQL Cl