关于Python字符编码encode和decode

(注:本文部分内容摘自互联网,由于作者水平有限,不足之处,还望留言指正。)

记得几天前,部门的一个小姑娘问我,怎么她Python打印出来的中文信息都乱码了?我走过去,略思一二,瞬间给她搞定,其实这是字符编码转换的问题。这时,我注意到小姑娘流露出一丝丝崇拜的眼神。所以我想,如果你连编码问题都搞不定,还怎么泡妞啊。可能一部分人也会进入这种误区,我以我小学生的水平,把我的理解结合网上的资料写下来。

注意:Python3默认编码是unicode;而Python2是ASCII码。Windows环境默认是gbk编码。

常见编码错误原因:

1. Python解释器的默认编码

2. Python源文件文件编码

3. Terminal使用的编码

4. 操作系统的语言设置

一、 编码的种类

I、ASCII 占1个字节,只支持英文

II、GB2312 占2个字节,支持6700+汉字

III、GBK GB2312的升级版,支持21000+汉字,中文2个字节。

IV、Unicode 2-4字节 已经收录136690个字符

V、UTF-8: 使用1、2、3、4个字节表示所有字符;优先使用1个字符、无法满足则使增加一个字节,最多4个字节。英文占1个字

节、欧洲语系占2个、东亚占3个,其它及特殊字符占4个。中文3个字节。

VI、UTF-16: 使用2、4个字节表示所有字符;优先使用2个字节,否则使用4个字节表示。

二、 Python3的执行过程

1.解释器找到代码文件,把代码字符串按文件头定义的编码加载到内存,转成unicode

2.把代码字符串按照语法规则进行解释,

3.所有的变量字符都会以unicode编码声明

Py3 自动把文件编码转为unicode,Python2并不会自动的把文件编码转为unicode存在内存里。需要手动转码。

三、手动转码规则

UTF-8 --> decode 解码 --> Unicode

Unicode --> encode 编码 --> GBK / UTF-8 等

使用type可以查看编码形式,unicode是‘unicode’,gbk和utf-8是‘str或bytes’。

实例:

Python2中默认是ASCII码

#coding=utf-8
#Python2中默认是ASCII码,一般会加入以utf-8编程
a = ‘编码‘                       # a是utf-8类型
b = a.decode(‘utf-8‘)       # b是Unicode类型
c = b.encode(‘gbk‘)        #c是gbk类型
d = c.decode(‘gbk‘).encode(‘utf-8‘)   #先将c转换成Unicode,再转成utf-8
print a ,b,c,d
print type(a),type(b),type(c),type(d)

输出结果

Python3中默认是unicode

a = ‘编码‘                       # a是unicode类型
b = a.encode(‘utf-8‘)       # b是utf-8类型
c = a.encode(‘gbk‘)        #c是gbk类型
print (a ,b,c)
print (type(a),type(b),type(c))
#python3默认是unicode类型

输出结果

在Windows中默认gbk

>>> a = ‘编码‘
>>> b = a.decode(‘gbk‘) #windows默认是gbk,先解码成unicode
>>> c = b.encode(‘utf-8‘) #unicode转换成utf-8
>>> a
‘\xb1\xe0\xc2\xeb‘
>>> b
u‘\u7f16\u7801‘
>>> c
‘\xe7\xbc\x96\xe7\xa0\x81‘
>>> print(a,b,c)
(‘\xb1\xe0\xc2\xeb‘, u‘\u7f16\u7801‘, ‘\xe7\xbc\x96\xe7\xa0\x81‘)
>>> type(a)
<type ‘str‘>
>>> type(b)
<type ‘unicode‘>
>>> type(c)
<type ‘str‘>
>>>

就写这些吧。

哎,我们曾经有梦,可是那一年毕业了,梦去另一个城市搬砖了。梦是我同学呀。

时间: 2024-12-24 23:16:07

关于Python字符编码encode和decode的相关文章

python编码encode和decode

计算机里面,编码方法有很多种,英文的一般用ascii,而中文有unicode,utf-8,gbk,utf-16等等. unicode是 utf-8,gbk,utf-16这些的父编码,这些子编码都能转换成unicode编码,然后转化成子编码,例如utf8可以转成unicode,再转gbk,但不能直接从utf8转gbk 所以,python中就有两个方法用来解码(decode)与编码(encode),解码是子编码转unicode,编码就是unicode转子编码 1.编码 #encoding=utf-8

python 字符编码处理问题总结 彻底击碎乱码!

Python中经常遇到这样的字符编码问题,尤其在处理网页源码时(特别是爬虫中): UnicodeDecodeError: 'XXX' codec can't decode bytes in position 12-15: illegal multibyte... 下面以汉字'哈'来解释作示例解释所有的问题,汉字"哈"的各种编码如下: 1  UNICODE(UTF8-16): 0xC854 2  UTF-8: 0xE59388 3  GBK: 0xB9FE 除此之外还有如gb2312,

Python字符编码详解(转)

1. 字符编码简介 1.1. ASCII ASCII(American Standard Code for Information Interchange),是一种单字节的编码.计算机世界里一开始只有英文,而单字节可以表示256个不同的字符,可以表示所有的英文字符和许多的控制符号.不过ASCII只用到了其中的一半(\x80以下),这也是MBCS得以实现的基础. 1.2. MBCS 然而计算机世界里很快就有了其他语言,单字节的ASCII已无法满足需求.后来每个语言就制定了一套自己的编码,由于单字节

Python字符串的encode与decode研究心得——解决乱码问题

转~Python字符串的encode与decode研究心得——解决乱码问题 为什么Python使用过程中会出现各式各样的乱码问题,明明是中文字符却显示成“/xe4/xb8/xad/xe6/x96/x87”的形式?为什么会报错“UnicodeEncodeError: 'ascii' codec can't encode characters in position 0-1: ordinal not in range(128)”?本文就来研究一下这个问题. 字符串在Python内部的表示是unico

python 字符编码练习

通过下面的练习,加深对python字符编码的认识 # \x00 - \xff 256个字符 >>> a = range(256)>>> b = bytes(a) # 不用参数encoding >>> b b'\x00\x01\x02 ... \xf6\xf7\xf8\xf9\xfa\xfb\xfc\xfd\xfe\xff' >>> b.decode('utf-8') # 报错 Traceback (most recent call l

python字符编码惯用法

本文总结在实际应用中遇到的python字符编码问题,制定一套编码相关的约定,避免编码上的错误. 在写猥琐宝典时需要总结soj上做过的题,准备在总结过程中顺便写一个soj上的题解.题解使用python可读,也就是python可以直接eval的格式,以便于处理.写题解老是copy soj上的题目id,title不是太方便,所以就准备自动生成一个空的题解,里面包含了我做过的题.然而直接从soj上只能拿到自己过了的题的id列表,缺乏其它信息.缺乏的信息可以抽象为soj数据库,其中包含了一个以id为主键的

Python字符编码很难吗?今天一文带你深入!从此不再疑惑!

不论你是有着多年经验的 Python 老司机还是刚入门 Python 不久,你一定遇到过UnicodeEncodeError.UnicodeDecodeError 错误,每当遇到错误我们就拿着 encode.decode 函数翻来覆去的转换,有时试着试着问题就解决了,有时候怎么试都没辙,只有借用 Google 大神帮忙,但似乎很少去关心问题的本质是什么,下次遇到类似的问题重蹈覆辙,那么你有没有想过一次性彻底把 Python 字符编码给搞懂呢? 完全理解字符编码 与 Python 的渊源前,我们有

Python字符编码转换Unicode和str

参考链接1:https://blog.csdn.net/VictoriaW/article/details/75314737 参考链接2:https://blog.csdn.net/sheldonwong/article/details/86684761 Unicode和str ## str 我们平时写的用引号括起来的字符串都是str类型的. >>> x = '哈哈' >>> x '\xb9\xfe\xb9\xfe' ### 根据上面的打印结果,可以知道str类型的x存

更改python字符编码以便使用UTF-8的编码url路径

url编码分两种, 一种是unicode, 另一种是gb2312, 今天遇到的一个网站是要将字符编码按照gb2312来编码,用来得到一个先填写blanks后再返回页面的数据,废话少说,需要做的就是先查看你的python的编码是啥,默认是ascii, ? 1 2 3 import sys print sys.getdefaultencoding() # 'ascii' 直接附代码吧: ? 1 import urllib as com ? 1 2 3 4 5 6 7 8 9 10 11 12 13