Python 3中的str和bytes类型

Python3 中的str和bytes类型

Python3最重要的新特性之一是:对字符串和二进制数据流做了明确的区分。文本总是Unicode,由str类型表示,二进制数据则由bytes类型表示。Python3不会以任何隐式的方式混用str和bytes,我们不能拼接字符串和字节流,也无法在字节流里搜索字符串(反之亦然),也不能将字符串传入参数为字节流(反之亦然)。

编码发展的历史

在bytes和str之前,需要先说说关于编码的发展。在计算机历史的早期,美国为代表的英语系国家主导了整个计算机行业,26个英文字母组成了多样的英语单词、语句、文章。因此,最早的字符编码规范是ASCII码,一种8位即一个字节码的编码规范,它可以涵盖整个英语系的编码需要。

什么是编码?编码就是把一个字符用一个二进制来表示。我们都知道,所有的东西,不管是英文、中文还是符号等等,最终存储在磁盘上都是010101这类东西。在计算机内部,读取和存储数据归根结底,处理的都是0和1组成的比特流。问题来了,人类看不懂这些比特流,如何让这些010101对认类变得可读呢?于是出现了字符编码,他是个翻译机,在计算机内部某个地方,透明的帮助我们将比特流翻译成认类可以直接理解的文字。对于一般用户,不需要知道这个过程是什么原理,是怎么执行的,但是对于程序员却是个必须搞清楚的问题。

以ASCII编码为例,它规定1个字节8比特位代表1个字符的编码,也就是"00000000"这么宽,一个一个字节的解读。例如:01000001表示大写字母A,有时候我们会用65这个十进制来表示A在ASCII中的编码。8个比特位,可以没有重复的最多表示2的8次方(255)个字符。

后来计算机得到普及,中文、日文、韩文等等国家的文字需要在计算机内表示,ASCII的255个远远不够。于是标准组织制定出了叫做Unicode的万国码,它规定任何一个字符(不管哪国的)至少以2个字节表示,可以更多。其中,英文字母就是用2个字节,而汉字是3个字节。这个编码虽然好,满足了所有人的要求,但是它不兼容ASCII,同时还占用较多的内存空间。因为在计算机世界更多的字符是英文字母,明明可以用1个字节就能够表示,非要用2个。

于是UTF-8(针对Unicode的可变长度字符编码)编码应运而生,它规定英文字母系列用1个字节表示,汉字用3个字节表示等等。因此,它兼容ASCII,可以节码早期的文档,很快UTF-8就得到了广泛的应用。在编码的发展历程中,我国还创造了自己的编码方式,例如:GBK、GB2312、BIG5,它们只局限在国内使用,不被国外认可。在GBK编码中,中文汉字占2个字节。

bytes和str之间的异同

回到bytes和str之上,bytes是一种比特流,它的存在形式是01010011这种。我们无论是在写代码,还是在阅读文章的过程中,肯定不会有人直接阅读这种比特流,他必须有一种编码方式,使得它变成有意义的比特流,而不是一堆晦涩难懂的01组合。因为编码方式的不同,对这个比特流的解读也会不同,对实际使用造成了很大的困扰。下面我们看看Python是如何处理这一系列编码问题的:

>>> s = "中文"
>>> s
‘中文‘
>>> type(s)
<class ‘str‘>
>>> b = bytes(s, encoding="utf-8")
>>> b
b‘\xe4\xb8\xad\xe6\x96\x87‘
>>> type(b)
<class ‘bytes‘>

从上面的例子可以看出,s是个字符串类型。Python的内置函数bytes()可以将字符串str类型转换成bytes类型,b实际上是一串01的组合,但为了在ide环境中让我们相对直观的观察,它被变现成了b‘\xe4\xb8\xad\xe6\x96\x87‘这种形式,开头的b表示这是一个bytes类型。\xe4是十六进制的表示方式,它占用1个字节的长度,因此"中文"被编码成utf-8后,我们可以数得出一共用了6个字节,每个汉字占用3个,这印证了上面的论述。在使用内置函数bytes()时,必须明确encoding的参数,不可省略。

我们都知道,字符串类型str里有一个encode()方法,它是从字符串向比特流的编码过程。而bytes类型恰好有个decode()方法,它是从比特流向字符串解码的过程。除此之外,我们查看Python的源码会发现bytes和str拥有几乎一摸一样的方法列表,最大的区别就是encode和decode。从实质上来说,字符串在磁盘上的保存形式也是01的组合,也需要编码和解码。如果,上面的阐述还不能让你搞清楚两者的区别,那么请记住下面几句话:

  • 1.在将字符串存入磁盘和从磁盘中读取的过程中,Python自动地帮助我们完成了编码和解码的工作,我们不需要关心其过程;
  • 2.使用bytes类型,实际上是告诉Python,不需要它帮我们自动地完成编码和解码的工作,而是用户自己手动进行,并指定编码格式;
  • 3.Python已经严格区分了bytes和str两种数据类型,我们不能在需要bytes类型参数的时候使用str参数,反之亦然,这点在读写磁盘文件时容易碰到;

在bytes和str的互相转换过程中,实际就是编码和解码的过程,必须显示地指定编码格式:

>>> b
b‘\xe4\xb8\xad\xe6\x96\x87‘
>>> type(b)
<class ‘bytes‘>
>>> res = str(b)
>>> res
"b‘\\xe4\\xb8\\xad\\xe6\\x96\\x87‘"
>>> type(res)
<class ‘str‘>
>>> result = str(b, encoding="utf-8")
>>> result
‘中文‘
>>> type(result)
<class ‘str‘>

我们再把res转换成GBK编码的bytes类型:

>>> gbk_b = bytes(result, encoding="gbk")
>>> gbk_b
b‘\xd6\xd0\xce\xc4‘
>>> s = str(gbk_b, encoding="gbk")
>>> s
‘中文‘
>>> type(s)
<class ‘str‘>

原文地址:https://www.cnblogs.com/love9527/p/9167570.html

时间: 2024-11-08 21:57:34

Python 3中的str和bytes类型的相关文章

Python3 中的 str 和 bytes

Python3 中的 str 和 bytes 与 Python2.X 不同,Python3.X 严格区分了 str 和 bytes 两种类型.文本为 Unicode,由 str 类型表示:二进制数据则由 bytes 表示. Python3.X 不会以任意隐式的方式混用 str 和 bytes.因此使用者不能拼接字符串和字节包,也无法在字节包里搜索字符串(反之亦然),也不能将字符串传入参数为字节包的函数(反之亦然). 例如 Python3.X 中的socket.send()函数,如果传入未编码的字

python3.x中str,bytes类型相关转化

在研究Python3.x的过程中,遇到的一个纠结了我几天的问题:总是提示"a bytes-like object is required,not 'str' " 在python3.x里增加了bytes类型,并且对str方法进行了修改,让str类型和bytes类型可以相互转换. #!/usr/bin/env python # -*- coding:utf-8 -*- a = "哈哈" #字符串转换成字节 b = bytes(a,encoding='utf-8') pr

python TypeError: must be str, not bytes错误

1 TypeError: must be str, not bytes错误: 2 3 解答: 4 写文件处 f=open(filename, 'w')应该写为 open(filename, 'wb') 5 读文件时 f=open(filename,'rb') UnicodeDecodeError: 'gbk' codec can't decode byte 0x80 in position 0: illegal multibyte sequence解决方法同上

Python 3中bytes/string的区别

原文: https://www.cnblogs.com/abclife/p/7445222.html python 3中最重要的新特性可能就是将文本(text)和二进制数据做了更清晰的区分.文本总是用unicode进行编码,以str类型表示:而二进制数据以bytes类型表示. 在python3中,不能以任何隐式方式将str和bytes类型二者混合使用.不可以将str和bytes类型进行拼接,不能在str中搜索bytes数据(反之亦然),也不能将str作为参数传入需要bytes类型参数的函数(反之

Python 3中bytes和str的分别

最近把一段py2的代码转换到py3的代码,结果运行到向socket中写数据的代码部分出现了'str' does not support the buffer interface这样一个错误. 一番搜索之后,发现py3里是严格区分了str和bytes的.怎么理解str和bytes呢?你可以认为str是一段文本,比如“abcd#%$^*&”什么的,而bytes呢,是二进制的一堆0,1的比特而已.看下面的图: 可以看到str的类型是class 'str',而str.encode()以后类型是class

python中str和bytes相互转换

1 # bytes object 2 b = b"example" 3 4 # str object 5 s = "example" 6 7 # str to bytes 8 bytes(s, encoding = "utf8") 9 10 # bytes to str 11 str(b, encoding = "utf-8") 12 13 # an alternative method 14 # str to bytes 1

三目运算的使用&amp;bytes类型转str类型

一.三目运算的使用 就像c语言中有三目运算符一样,python中也有三目运算符,废话不多说直接上代码 1 a=3 2 c=4 3 b=a if a>c else c 4 print(b) 意思就和 1 if a>c: 2 b=a 3 else: 4 b=c 是一样的. 二.bytes类型转str类型 在python中视频和音频的传递是二进制的,所以就需要用到str类型和bytes类型之间的转换. 不像在Python2中的两种类型傻傻分不清楚,在python3中两种类型各自独立没有关联,并不能自

小白的Python之路 day1 Python3的bytes/str之别

原文:The bytes/str dichotomy in Python 3 Python 3最重要的新特性大概要算是对文本和二进制数据作了更为清晰的区分.文本总是Unicode,由str类型表示,二进制数据则由bytes类型表示.Python 3不会以任意隐式的方式混用str和bytes,正是这使得两者的区分特别清晰.你不能拼接字符串和字节包,也无法在字节包里搜索字符串(反之亦然),也不能将字符串传入参数为字节包的函数(反之亦然).这是件好事. 不管怎样,字符串和字节包之间的界线是必然的,下面

Python bytes类型及用法

bytes 类型 Python 3 新增了 bytes 类型,用于代表字节串,是一个类型,不是C#中的列表. 字符串(str)由多个字符组成,以字符为单位进行操作: 字节串(bytes)由多个字节组成,以字节为单位进行操作. bytes 和 str 除操作的数据单元不同之外,它们支持的所有方法都基本相同,bytes 也是不可变序列. 计算机底层有两个基本概念:位(bit)和字节(Byte),其中 bit 代表 1 位,要么是 0,要么是 1: Byte 代表 1 字节,1 字节包含 8 位. 在