python3 爬虫小例子

#!/usr/bin/env python
# -*- coding: utf-8 -*-

import sys,re
import urllib.request,urllib.parse,http.cookiejar

class myW3():
    def login(self):
        ‘post 数据‘
        data = {"uid":self.uid,‘password‘:self.password,‘actionFlag‘:‘loginAuthenticate‘}
        
        user_agent=‘Mozilla/4.0 (compatible; MSIE 5.5; Windows NT)‘
        postData = urllib.parse.urlencode(data)
        postData = postData.encode(encoding=‘utf_8‘)
        headers = {‘User-Agent‘:user_agent}
        request = urllib.request.Request(self.url, postData,headers)
        urllib.request.urlopen(request).read().decode(‘utf-8‘)
    def cookie(self):
        ‘‘‘设置cookie,非常重要‘‘‘
        cj = http.cookiejar.CookieJar()
        cp = urllib.request.HTTPCookieProcessor(cj)
        opener = urllib.request.build_opener(cp)
        urllib.request.install_opener(opener)
    def __init__(self,uid = None,password=None,url=None):
        if uid is None or password is None:
            sys.exit(1)
        self.uid = uid
        self.password = password
        self.url = url
        self.count = 0
        self.cookie()
        self.login()

python3 爬虫小例子

时间: 2024-10-07 06:47:10

python3 爬虫小例子的相关文章

第一个用python3写的爬虫小例子

#!usr/bin/python import urllib.request response = urllib.request.urlopen("http://www.baidu.com"); print (response.read());

使用正则做的一个爬虫小例子

from urllib.request import urlopen import re """ 爬虫,爬一个豆瓣网,把爬出来的存储到一个文件 """ def get_request(url): """ 把网址变为源码,因为计算机只能读懂源码,然后吧源码变为utf-8的格式 :param url: :return: """ ret = urlopen(url) return ret.re

爬虫小例子

package com.textPa.two; import java.io.BufferedWriter; import java.io.File; import java.io.FileWriter; import java.nio.charset.Charset; import org.apache.http.HttpEntity; import org.apache.http.HttpResponse; import org.apache.http.client.methods.Http

python3 爬虫小技巧,

前几天采集一个网站的数据,发现在翻页查询数据的时候,网址是不变的,其实这样的情况很多,关键是获取到真正的URL 比如:查询链接是:http://so.nen.com.cn/m_fullsearch/searchurl/mfullsearch!descResult.do 翻页r查询,地址栏里面的url始终是不变的,但实际上是变化的, 具体的参数变化可以在From Data看到,如下图: 所以具体的完整的url应该是:http://so.nen.com.cn/m_fullsearch/searchu

python速成第二篇(小爬虫+文件操作+socket网络通信小例子+oop编程)

大家好,由于前天熬夜写完第一篇博客,然后昨天又是没休息好,昨天也就不想更新博客,就只是看了会资料就早点休息了,今天补上我这两天的所学,先记录一笔.我发现有时候我看的话会比较敷衍,而如果我写出来(无论写到笔记本中还是博客中,我都有不同的感觉)就会有不同的想法,我看书或者看资料有时候感觉就是有一种惰性,得过且过的感觉,有时候一个知识想不通道不明,想了一会儿,就会找借口给自己说这个知识不重要,不需要太纠结了,还是去看下一个吧,然后就如此往复下去,学习就会有漏洞,所以这更加坚定了我写博客来记录的想法.

这42个Python小例子,太走心~

告别枯燥,60秒学会一个Python小例子.奔着此出发点,我在过去1个月,将平时经常使用的代码段换为小例子,分享出来后受到大家的喜欢. 一.基本操作 . 1 链式比较 i = 3 print(1 < i < 3)  # False print(1 < i <= 3)  # True 2 不用else和if实现计算器 from operator import * def calculator(a, b, k):     return {         '+': add,      

python3爬虫(4)各种网站视频下载方法

python3爬虫(4)各种网站视频下载方法原创H-KING 最后发布于2019-01-09 11:06:23 阅读数 13608 收藏展开理论上来讲只要是网上(浏览器)能看到图片,音频,视频,都能够下载下来,然而实际操作的时候也是有一定难度和技术的,这篇文章主要讲述各个网站视频资源如何下载. B站视频页面链接: https://www.bilibili.com/bangumi/play/ep118490?from=search&seid=7943855106424547918 首先我们用万能下

python2.7练习小例子(十)

    10):古典问题:有一对兔子,从出生后第3个月起每个月都生一对兔子,小兔子长到第三个月后每个月又生一对兔子,假如兔子都不死,问每个月的兔子总数为多少?     程序分析:兔子的规律为数列1,1,2,3,5,8,13,21....     程序源代码: #!/usr/bin/python # -*- coding: UTF-8 -*- f1 = 1 f2 = 1 for i in range(1,22): print '%12ld %12ld' % (f1,f2), if (i % 3)

python2.7练习小例子(二十八)

28):题目:请输入星期几的第一个字母来判断一下是星期几,如果第一个字母一样,则继续判断第二个字母.     程序分析:用情况语句比较好,如果第一个字母一样,则判断用情况语句或if语句判断第二个字母. #!/usr/bin/python # -*- coding: UTF-8 -*- letter = raw_input("please input:") #while letter != 'Y': if letter == 'S': print ('please input secon