python 中的 unicode是让人很困惑、比较难以理解的问题. utf-8是unicode的一种实现方式,unicode、gbk、gb2312是编码字符集.
decode是将普通字符串按照参数中的编码格式进行解析,然后生成对应的unicode对象
写python时遇到的中文编码问题:
? /test sudo vim test.py
#!/usr/bin/python
#-*- coding:utf-8 -*-
def weather():
import time
import re
import urllib2
import itchat
#模拟浏览器
hearders = "User-Agent","Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/60.0.3112.113 Safari/537.36"
url = "https://tianqi.moji.com/weather/china/guangdong/shantou" ##要爬去天气预报的网址
par = '(<meta name="description" content=")(.*?)(">)' ##正则匹配,匹配出网页内要的内容
##创建opener对象并设置为全局对象
opener = urllib2.build_opener()
opener.addheaders = [hearders]
urllib2.install_opener(opener)
##获取网页
html = urllib2.urlopen(url).read().decode("utf-8")
##提取需要爬取的内容
data = re.search(par,html).group(2)
print type(data)
data.encode('gb2312')
b = '天气预报'
print type(b)
c = b + '\n' + data
print c
weather()
? /test sudo python test.py
<type 'unicode'>
<type 'str'>
Traceback (most recent call last):
File "test.py", line 30, in <module>
weather()
File "test.py", line 28, in weather
c = b + '\n' + data
UnicodeDecodeError: 'ascii' codec can't decode byte 0xe5 in position 0: ordinal not in range(128)
解决方法:
? /test sudo vim test.py
#!/usr/bin/python
#-*- coding:utf-8 -*-
import sys
reload(sys)
# Python2.5 初始化后会删除 sys.setdefaultencoding 这个方法,我们需要重新载入
sys.setdefaultencoding('utf-8')
def weather():
import time
import re
import urllib2
import itchat
#模拟浏览器
hearders = "User-Agent","Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/60.0.3112.113 Safari/537.36"
url = "https://tianqi.moji.com/weather/china/guangdong/shantou" ##要爬去天气预报的网址
par = '(<meta name="description" content=")(.*?)(">)' ##正则匹配,匹配出网页内要的内容
##创建opener对象并设置为全局对象
opener = urllib2.build_opener()
opener.addheaders = [hearders]
urllib2.install_opener(opener)
##获取网页
html = urllib2.urlopen(url).read().decode("utf-8")
##提取需要爬取的内容
data = re.search(par,html).group(2)
print type(data)
data.encode('gb2312')
b = '天气预报'
print type(b)
c = b + '\n' + data
print c
weather()
测试后:
? /test sudo python test.py
<type 'unicode'>
<type 'str'>
天气预报
汕头市今天实况:20度 多云,湿度:57%,东风:2级。白天:20度,多云。 夜间:晴,13度,天气偏凉了,墨迹天气建议您穿上厚些的外套或是保暖的羊毛衫,年老体弱者可以选择保暖的摇粒绒外套。
原文地址:http://blog.51cto.com/legehappy/2064622