python设置代理IP来爬取拉勾网上的职位信息,

import requests
import json
import time

position = input(‘输入你要查询的职位:‘)

url = ‘https://www.lagou.com/jobs/positionAjax.json?city=%E6%9D%AD%E5%B7%9E&needAddtionalResult=false‘
headers = {
    ‘User-Agent‘:‘Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.36‘,
}
prox = {        #设置代理服务器
    ‘http‘:‘http://47.89.48.239:808‘,
    ‘https‘:‘https://47.52.3.154:808‘
}
def get_page():     #通过你输入的职位来获取每个职位的最大的页数,后期来进行遍历
    data = {
        ‘first‘: ‘false‘,
        ‘pn‘: ‘1‘,
        ‘kd‘: position,
    }
    html = requests.post(url,headers=headers,data=data,proxies = prox)
    json_data = json.loads(html.text)
    job_messages = json_data[‘content‘][‘positionResult‘]
    page = job_messages[‘totalCount‘]/job_messages[‘resultSize‘]        #总的工作职位除以每页显示的工作岗位,得出的页数,但是因为你会余数,所有做个判断
    num = str(job_messages[‘totalCount‘]/job_messages[‘resultSize‘])[-1]
    if num != 0:        #如果是小数就加1,不是小数直接返回页数
        tole_page = int(page) + 1
        return tole_page
    else:
        tole_page = int(page)
        return tole_page

def get_job_message(data):    #获取每页的工作信息
    html = requests.post(url,headers=headers,data=data,proxies = prox)
    if html.status_code == 200:     #显示状态码
        json_data = json.loads(html.text)
        job_messages = json_data[‘content‘][‘positionResult‘][‘result‘]
        for job_message in job_messages:
            company = job_message[‘companyFullName‘]    #公司名称
            companySize = job_message[‘companySize‘]    #公司大小
            positionName = job_message[‘positionName‘]  #职位名称
            salary = job_message[‘salary‘]      #工资
            workYear = job_message[‘workYear‘]  #工作年限
            district = job_message[‘district‘]  #工作地址
            print(company,companySize,positionName,salary,workYear,district)
    else:
        print(‘没有获取网页数据‘)

for pn in range(1,get_page()+1):
    data = {
        ‘first‘: ‘false‘,
        ‘pn‘: str(pn),
        ‘kd‘: position,
    }
    print(data)
    get_job_message(data)
    time.sleep(3)
时间: 2024-10-08 11:26:59

python设置代理IP来爬取拉勾网上的职位信息,的相关文章

Python编写网页爬虫爬取oj上的代码信息

OJ升级,代码可能会丢失. 所以要事先备份. 一开始傻傻的复制粘贴, 后来实在不能忍, 得益于大潇的启发和聪神的原始代码, 网页爬虫走起! 已经有段时间没看Python, 这次网页爬虫的原始代码是 python2.7版本, 试了一下修改到3.0版本, 要做很多包的更替,感觉比较烦,所以索性就在这个2.7版本上完善了. 首先观赏一下原始代码,我给加了一些注释: # -*- coding: cp936 -*- import urllib2 import urllib import re import

python 学习 - 爬虫入门练习 爬取链家网二手房信息

import requests from bs4 import BeautifulSoup import sqlite3 conn = sqlite3.connect("test.db") c = conn.cursor() for num in range(1,101): url = "https://cs.lianjia.com/ershoufang/pg%s/"%num headers = { 'User-Agent': 'Mozilla/5.0 (Windo

使用python爬取MedSci上的影响因子排名靠前的文献

使用python爬取medsci上的期刊信息,通过设定条件,然后获取相应的期刊的的影响因子排名,期刊名称,英文全称和影响因子.主要过程如下: 首先,通过分析网站http://www.medsci.cn/sci的交互过程.可以使用谷歌或火狐浏览器的“审查元素-->Network”,然后就可以看到操作页面就可以看到网站的交互信息.当在网页上点击“我要查询”时,网页会发送一个POST消息给服务器,然后,服务器返回查询结果 然后,将查询到的结果使用正则表达式提取出需要的数据. 最后将提取出的数据输出到文

python爬取准备四 定义Opener和设置代理IP

Handler和Opener Handler处理器和自定义Opener opener是urllib2.OpenerDirector的实例,我们之前一直在使用urlopen,它是一个特殊的opener(也就是我们构建好的). 但是urlopen()方法不支持代理.cookie等其他的HTTP/GTTPS高级功能.所有要支持这些功能: 1.使用相关的Handler处理器来创建特定功能的处理器对象: 2.然后通过urllib2.build_opener()方法使用这些处理器对象,创建自定义opener

Python 爬取拉勾网python职位信息

今天的任务是爬取拉勾网的职位信息. 首先,我们进入拉勾网,然后在职位搜索栏搜索Python 的同时,打开控制面板F12,来查看网页构成. 在XHR里,可以清楚的看见Ajax请求,所以需要使用session模块来模拟浏览器的行为来操作. 源代码如下: import requests import json header = { 'Accept': 'application/json, text/javascript, */*; q=0.01', 'Referer': 'https://www.la

爬虫-设置代理ip

1.为什么要设置代理ip 在学习Python爬虫的时候,经常会遇见所要爬取的网站采取了反爬取技术导致爬取失败.高强度.高效率地爬取网页信息常常会给网站服务器带来巨大压力,所以同一个IP反复爬取同一个网页,就很可能被封,所以通过设置代理IP来避免被封,从而顺利爬取. 2.从那里获取免费的IP 西刺免费代理 快代理免费代理 from bs4 import BeautifulSoup import requests import random def get_ip_list(url, headers)

Python爬虫实战二之爬取百度贴吧帖子

大家好,上次我们实验了爬取了糗事百科的段子,那么这次我们来尝试一下爬取百度贴吧的帖子.与上一篇不同的是,这次我们需要用到文件的相关操作. 前言 亲爱的们,教程比较旧了,百度贴吧页面可能改版,可能代码不好使,八成是正则表达式那儿匹配不到了,请更改一下正则,当然最主要的还是帮助大家理解思路. 2016/12/2 本篇目标 1.对百度贴吧的任意帖子进行抓取 2.指定是否只抓取楼主发帖内容 3.将抓取到的内容分析并保存到文件 1.URL格式的确定 首先,我们先观察一下百度贴吧的任意一个帖子. 比如:ht

Python爬虫入门 | 5 爬取小猪短租租房信息

小猪短租是一个租房网站,上面有很多优质的民宿出租信息,下面我们以成都地区的租房信息为例,来尝试爬取这些数据. 小猪短租(成都)页面:http://cd.xiaozhu.com/1.爬取租房标题 按照惯例,先来爬下标题试试水,找到标题,复制xpath.多复制几个房屋的标题 xpath 进行对比: //[@id="page_list"]/ul/li[1]/div[2]/div/a/span//[@id="page_list"]/ul/li[2]/div[2]/div/a

Python爬虫之利用BeautifulSoup爬取豆瓣小说(三)——将小说信息写入文件

1 #-*-coding:utf-8-*- 2 import urllib2 3 from bs4 import BeautifulSoup 4 5 class dbxs: 6 7 def __init__(self): 8 self.pageIndex = 0 9 self.enable = True 10 self.file = None 11 self.content = [] 12 13 14 #获取html页面的内容 15 def getPage(self, pageIndex): 1