java梳理-一个汉字占多大空间

面试题:一个汉字占多大空间。

事实上这个问题我了解不深的,知道结论不知道为什么。借此梳理下认识。

先回想下java基本类型

一基本类型 :
简称四类八种,声明变量的同一时候分配了空间。举比例如以下:

Int a =1;
一、4种整型 
    byte      1字节           -128——127 
    short     2 字节         -32,768 —— 32,767 
    int       4 字节          -2,147,483,648 ——2,147,483,647(超过20亿) 
    long      8 字节   -9,223,372,036,854,775,808——9,223,372,036854,775,807 
    凝视:java中全部的数据类所占领的字节数量与平台无关,java也没有任何无符号类型 
二、 2种浮点类型 
    float    4 字节         32位IEEE 754单精度(有效位数 6 – 7位) 
    double   8 字节         64位IEEE 754双精度(有效位数15位) 
三、1种Unicode编码的字符单元 
    char    2 字节          整个Unicode字符集 
四、1种真值类型 
boolean    1 位             True或者false

 二 引用类型:

除了四类八种基本类型外,全部的类型都称为引用类型:类class 、接口interface 、数组array 
基本类型是值传递。引用类型是引用传递。

MyDate a,b。                       //在内存开辟两个引用空间

a  =  new MyDate();    //开辟MyDate对象的数据空间,并把该空间的首地址赋给a

b  =  a。                      //将a存储空间中的地址写到b的存储空间中

一个具有值类型(value type)的数据存放在栈内的一个变量中。即是在栈中分配内存空间。直接存储所包括的值,其值就代表数据本身。值类型的数据具有较快的存取速度。

一个具有引用类型(reference type)的数据并不驻留在栈中,而是存储于堆中。即是在堆中分配内存空间,不直接存储所包括的值,而是指向所要存储的值,其值代表的是所指向的地址。当訪问一个具有引用类型的数据时。须要到栈中检查变量的内容,该变量引用堆中的一个实际数据。引用类型的数据比值类型的数据具有更大的存储规模和较低的訪问速度。

************************背景结束。正文開始************************

事实上关于上面引用类型如:String,还有常见集合有非常多细化知识点,本篇写不完。

看下问题的简单回答:

简单汉字:utf-8 的汉字占3个字节  gbk 是两个字节。 
  先了解下主要的单位:1、比特(bit)即一个二进制位。比如100011就是6比特。2、字节(byte)。这是计算机中数据类型最主要的单位了,8bit组成1byte。 

为什么要编码?原因就是:

1)一个字节一共能够用来表示256种不同的状态,每个状态相应一个符号,就是256个符号,从0000000到11111111。

 2)表示的符号太多,无法用一个字节来全然表示。要解决这个矛盾必须须要一个新的数据结构 char,从 char 到 byte 必须编码。

以下介绍下常见的编码规则,所谓的规则就是为转换成计算机所能理解的语言。
  • ASCII 码
学过计算机的人都知道 ASCII 码。总共同拥有 128 个,用一个字节的低 7 位表示,0~31 是控制字符如换行回车删除等。32~126 是打印字符。能够通过键盘输入并且能够显示出来。这128个符号(包括32个不能打印出来的控制符号),仅仅占用了一个字节的后面7位,最前面的1位统一规定为0。
  • ISO-8859-1
128 个字符显然是不够用的,于是 ISO 组织在 ASCII 码基础上又制定了一些列标准用来扩展 ASCII 编码,它们是 ISO-8859-1~ISO-8859-15。当中 ISO-8859-1 涵盖了大多数西欧语言字符,全部应用的最广泛。ISO-8859-1 仍然是单字节编码,它总共能表示 256 个字符。
  • GB2312
它的全称是《信息交换用汉字编码字符集 基本集》。它是双字节编码,总的编码范围是 A1-F7,当中从 A1-A9 是符号区,总共包括 682 个符号,从 B0-F7 是汉字区,包括 6763 个汉字。
  • GBK
全称叫《汉字内码扩展规范》。是国家技术监督局为 windows95 所制定的新的汉字内码规范,它的出现是为了扩展 GB2312,增加很多其它的汉字,它的编码范围是 8140~FEFE(去掉 XX7F)总共同拥有 23940 个码位,它能表示 21003 个汉字,它的编码是和 GB2312 兼容的,也就是说用 GB2312 编码的汉字能够用 GBK 来解码,并且不会有乱码。
  • UTF-16
说到 UTF 必须要提到 Unicode(Universal Code 统一码),ISO 试图想创建一个全新的超语言字典。世界上全部的语言都能够通过这本字典来相互翻译。 可想而知这个字典是多么的复杂,关于 Unicode 的具体规范能够參考相应文档。 Unicode 是 Java 和 XML 的基础,以下具体介绍 Unicode 在计算机中的存储形式。须要注意的是,Unicode仅仅是一个符号集,它仅仅规定了符号的二进制代码,却没有规定这个二进制代码应该怎样存储。 比方,汉字"严"的unicode是十六进制数4E25,转换成二进制数足足有15位(100111000100101)。也就是说这个符号的表示至少须要2个字节。表示其它更大的符号,可能须要3个字节或者4个字节。甚至很多其它。 UTF-16 具体定义了 Unicode 字符在计算机中存取方法。UTF-16 用两个字节来表示 Unicode 转化格式。这个是定长的表示方法,任何字符都能够用两个字节表示,两个字节是 16 个 bit,所以叫 UTF-16。UTF-16 表示字符非常方便。每两个字节表示一个字符,这个在字符串操作时就大大简化了操作。这也是 Java 以 UTF-16 作为内存的字符存储格式的一个非常重要的原因。
  • UTF-8
UTF-16 统一採用两个字节表示一个字符,尽管在表示上非常easy方便,可是也有其缺点,有非常大一部分字符用一个字节就能够表示的如今要两个字节表示,存储空间放大了一倍,在如今的网络带宽还非常有限的今天。这样会增大网络传输的流量,并且也不是必需。而 UTF-8 採用了一种变长技术,每个编码区域有不同的字码长度。 不同类型的字符能够是由 1~6 个字节组成。 UTF-8 有以下编码规则: 假设一个字节,最高位(第 8 位)为 0,表示这是一个 ASCII 字符(00 - 7F)。 可见。全部 ASCII 编码已经是 UTF-8 了。 假设一个字节。以 11 开头,连续的 1 的个数暗示这个字符的字节数,比如:110xxxxx 代表它是双字节 UTF-8 字符的首字节。 反复一遍,这里的关系是,UTF-8是Unicode的实现方式之中的一个。 下表总结了编码规则,字母x表示可用编码的位。 Unicode符号范围 | UTF-8编码方式
(十六进制) | (二进制)--------------------+---------------------------------------------0000 0000-0000 007F | 0xxxxxxx0000 0080-0000 07FF | 110xxxxx 10xxxxxx0000 0800-0000 FFFF | 1110xxxx 10xxxxxx 10xxxxxx0001 0000-0010 FFFF | 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
在 Java 开发中除了 I/O 涉及到编码外。最经常使用的应该就是在内存中进行字符到字节的数据类型的转换。 上面介绍了常见的编码格式,以下结合样例看看java中编解码方式: 我们一汉字“严”为例进行測试。

public class LengthTest {

public static void main(String[] args) throws Exception{		String name = "严";		byte[] utf8 = name.getBytes("UTF-8");		System.out.println(utf8.length);	   		System.out.print("UTF8:");toHex(utf8);	    byte[] gbk = name.getBytes("GBK");	    System.out.print("GBK:");toHex(gbk);	    String unicodeStr =Integer.toHexString("严".charAt(0) );	    System.out.println("unicode:"+unicodeStr); // 	    //unicode转汉字	    StringBuffer sb = new StringBuffer();  	    String str[] = unicodeStr.toUpperCase().split("U");  	    for(int i=0;i<str.length;i++){  	      if(str[i].equals("")) continue;  	      char c = (char)Integer.parseInt(str[i].trim(),16);  	      sb.append(c);  	    }  	    System.out.println(sb.toString());		}	public static void toHex(byte[] b) {        for (int i = 0; i < b.length; i++) {            System.out.printf("%x " , b[i]);        }        System.out.println();    }}

我们把 name 字符串依照前面说的几种编码格式进行编码转化成 byte 数组,然后以 16 进制输出,我们先看一下 Java 是怎样进行编码的。

首先依据指定的 charsetName 通过 Charset.forName(charsetName) 设置 Charset 类,然后依据 Charset 创建 CharsetEncoder 对象。再调用 CharsetEncoder.encode 对字符串进行编码,不同的编码类型都会相应到一个类中,实际的编码过程是在这些类中完毕的。以下是 String. getBytes(charsetName) 编码过程的时序图

以下是相应的StringCoding的代码:


static byte[] encode(String charsetName, char[] ca, int off, int len)        throws UnsupportedEncodingException    {        StringEncoder se = deref(encoder);        String csn = (charsetName == null) ? "ISO-8859-1" : charsetName;        if ((se == null) || !(csn.equals(se.requestedCharsetName())                              || csn.equals(se.charsetName()))) {            se = null;            try {                Charset cs = lookupCharset(csn);                if (cs != null)                    se = new StringEncoder(cs, csn);            } catch (IllegalCharsetNameException x) {}            if (se == null)                throw new UnsupportedEncodingException (csn);            set(encoder, se);        }        return se.encode(ca, off, len);    }

从上图能够看出依据 charsetName 找到 Charset 类,然后依据这个字符集编码生成 CharsetEncoder。这个类是全部字符编码的父类。针对不同的字符编码集在其子类中定义了怎样实现编码,有了 CharsetEncoder 对象后就能够调用 encode 方法去实现编码了。这个是 String.getBytes 编码方法。其它的如 StreamEncoder 中也是相似的方式。以下看看不同的字符集是怎样将前面的字符串编码成 byte 数组的?

依照GBK方式:

以下是大神 君山写的,我在jdk源代码找不到相应查表规则,仅仅有c2b接口。

GB2312 相应的 Charset 是 sun.nio.cs.ext. EUC_CN 而相应的 CharsetDecoder 编码类是 sun.nio.cs.ext. DoubleByte,GB2312 字符集有一个 char 到 byte 的码表,不同的字符编码就是查这个码表找到与每个字符的相应的字节,然后拼装成 byte 数组。查表的规则例如以下:

 c2b[c2bIndex[char >> 8] + (char & 0xff)]

GBK 编码是兼容 GB2312 编码的。它们的编码算法也是一样的。

不同的是它们的码表长度不一样。GBK 包括的汉字字符很多其它。

所以仅仅要是经过 GB2312 编码的汉字都能够用 GBK 进行解码,反过来则不然。

依照utf-8格式编码:

为加深理解:对照上面utf-8编码表。已知"严"的unicode是4E25,相应二进制(100111000100101),依据上表,能够发现4E25处在第三行的范围内(0000 0800-0000 FFFF),因此"严"的UTF-8编码须要三个字节,即格式是"1110xxxx 10xxxxxx 10xxxxxx"。

然后。从"严"的最后一个二进制位開始。依次从后向前填入格式中的x。多出的位补0。这样就得到了。"严"的UTF-8编码是"11100100 10111000 10100101",转换成十六进制就是E4B8A5。

以下结合代码执行结果,能够更好的理解

至此。能够理解题目的答案了。

事实上Windows平台还有一个简单的办法,就是记事本能够辅助实现不同编码转换。

打开文件后。点击"文件"菜单中的"另存为"命令,会跳出一个对话框。在最底部有一个"编码"的下拉条。



里面有四个选项:ANSI。Unicode,Unicode big endian 和 UTF-8。

1)ANSI是默认的编码方式。对于英文文件是ASCII编码。对于中文简体文件是GB2312编码(仅仅针对Windows中文简体版,假设是繁体中文版会採用Big5码)。

2)Unicode编码指的是UCS-2编码方式,即直接用两个字节存入字符的Unicode码。

这个选项用的little endian格式。

3)Unicode big endian编码与上一个选项相相应。我在下一节会解释little endian和big endian的涵义。

4)UTF-8编码,也就是上一节谈到的编码方法。

选择完"编码方式"后,点击"保存"button,文件的编码方式就立马转换好了。

7. Little endian和Big endian

上一节已经提到,Unicode码能够採用UCS-2格式直接存储。

以汉字"严"为例,Unicode码是4E25。须要用两个字节存储,一个字节是4E。还有一个字节是25。

存储的时候。4E在前,25在后,就是Big endian方式;25在前,4E在后,就是Little endian方式。

这两个古怪的名称来自英国作家斯威夫特的《格列佛游记》。在该书中,小人国里爆发了内战。战争起因是人们争论。吃鸡蛋时究竟是从大头(Big-Endian)敲开还是从小头(Little-Endian)敲开。为了这件事情。前后爆发了六次战争,一个皇帝送了命。还有一个皇帝丢了王位。

因此,第一个字节在前,就是"大头方式"(Big endian)。第二个字节在前就是"小头方式"(Little endian)。

那么非常自然的,就会出现一个问题:计算机怎么知道某一个文件究竟採用哪一种方式编码?

Unicode规范中定义,每个文件的最前面分别增加一个表示编码顺序的字符,这个字符的名字叫做"零宽度非换行空格"(ZERO WIDTH NO-BREAK SPACE)。用FEFF表示。这正好是两个字节。并且FF比FE大1。

假设一个文本文件的头两个字节是FE FF,就表示该文件採用大头方式;假设头两个字节是FF FE,就表示该文件採用小头方式。
*****************************

几种编码格式的比較

对中文字符后面四种编码格式都能处理,GB2312 与 GBK 编码规则相似,可是 GBK 范围更大,它能处理全部汉字字符。所以 GB2312 与 GBK 比較应该选择 GBK。UTF-16 与 UTF-8 都是处理 Unicode 编码。它们的编码规则不太同样,相对来说 UTF-16 编码效率最高,字符到字节相互转换更简单,进行字符串操作也更好。它适合在本地磁盘和内存之间使用,能够进行字符和字节之间高速切换,如 Java 的内存编码就是採用 UTF-16 编码。可是它不适合在网络之间传输,由于网络传输easy损坏字节流,一旦字节流损坏将非常难恢复,想比較而言 UTF-8 更适合网络传输,对 ASCII 字符採用单字节存储,另外单个字符损坏也不会影响后面其它字符,在编码效率上介于 GBK 和 UTF-16 之间,所以 UTF-8 在编码效率上和编码安全性上做了平衡,是理想的中文编码方式。 有些扯远了。理解了这些,也就不easy出现乱码问题。 另外知乎上大神给出了“内码”“外码”的概念,更加easy理解. https://www.zhihu.com/question/27562173/answer/37188642
參考:
http://www.cnblogs.com/bluestorm/archive/2012/07/30/2615034.html
http://www.ibm.com/developerworks/cn/java/j-lo-chinesecoding/

http://blog.csdn.net/fancylovejava/article/details/10142391


时间: 2024-10-30 15:36:36

java梳理-一个汉字占多大空间的相关文章

一开始看到Int16, Int32, Int64这三种类型就觉得有点怪, 为什么要整个数字结尾的, 挺怪的. 昨天互相想到, ms这么干就是想让大家一眼就知道这个数据类型占多大空间吧. Int8, 等于byte, Int16, 等于short, 占2个字节. -32768 32767 Int32, 等于int, 占4个字节. -2147483648 2147483647 Int64

一开始看到Int16, Int32, Int64这三种类型就觉得有点怪, 为什么要整个数字结尾的, 挺怪的. 昨天互相想到, ms这么干就是想让大家一眼就知道这个数据类型占多大空间吧. Int8, 等于byte, Int16, 等于short, 占2个字节. -32768 32767 Int32, 等于int, 占4个字节. -2147483648 2147483647 Int64, 等于long, 占8个字节. -9223372036854775808 9223372036854775807

由“Java中一个字符占两个字节”引起

起因 Java中一个字符占两个字节,这和C/C++稍有区别.在C/C++中我们可以通过sizeof运算符方便地知道某个变量类型或对象的大小,那在Java中又如何? 问题出现 Java为什么没有提供sizeof运算符? 要回答这个问题,我们可以从另一个角度来看,那就是为什么C/C++中提供sizeof运算符.这就让人忍不住想到C/C++和Java在内存管理上的区别. 在C中,内存分配和释放的任务交给了程序员,当我们尝试用malloc为某个对象分配一块堆内存时,一个无法逃避的问题是,这个即将被创建的

mysql和oracle的一个汉字占几个字符

以前一直使用oracle11g,一个汉字占3个字节,所以在操作mysql时也一直这样分配长度. 今天测试了下发现不对了 可以看到第一个的长度确实是15,但是第二个为什么是5? 在网上找到资料:char_length计算的是字符长度,而length计算的是字节长度,刚好我使用的是utf8,一个汉字占3个字节,占一个字符. 那好了,应该是对的上了,可是好奇心我就试了下 为什么这是相同的?因为这不是汉字 好了,现在知道原来mysql和oracle一样的,但是又看到一篇说mysql的varchar与or

Java一个汉字占几个字节(详解与原理)(转载)

1.先说重点: 不同的编码格式占字节数是不同的,UTF-8编码下一个中文所占字节也是不确定的,可能是2个.3个.4个字节: 2.以下是源码: 1 @Test 2 public void test1() throws UnsupportedEncodingException { 3 String a = "名"; 4 System.out.println("UTF-8编码长度:"+a.getBytes("UTF-8").length); 5 Sys

Java千问:你知道Java语言布尔型数据到底占多大空间吗?

我们都知道,Java语言中有个boolean类型.每个boolean类型的变量中存储的是一个true或者是false的逻辑值.那么存储这个逻辑值,需要多大的空间呢?从理论上来讲,存储这个逻辑值只需要1个位(bit)就可以了,很多教科书上谈到这个问题的时候,也说boolean类型的数据在内存中只占1个位. 但是稍微有点计算机常识的人都知道:计算机完成寻址操作的时候,是以字节为最小单位进行的.也就是说每次要读取内存中数据的时候,最小只能精确到1个字节,不能单独读取某个位上的信息.如果boolean类

Android EditText 文本长度限制(按照一个汉字占俩长度 类似字节)

Android EditText 文本长度限制有很简单的一种限制方式:在xml布局文件中对EditText添加 Android:maxLength="N" 但是这种简单的方式可能有时候不能满足某些比较较真的需求,这个时候就需要用别的的方式去限制长度了. 也就是通过InputFilter来实现: private class NameLengthFilter implements InputFilter { int MAX_EN; String regEx = "[\\u4e00

系统存储之:一个汉字在数据库占几个字节

参考文献:http://csumissu.iteye.com/blog/1090053 UTF-8:Unicode Transformation Format-8bit,允许含BOM,但通常不含BOM.是用以解决国际上字符的一种多字节编码,它对英文使用8位(即一个字节),中文使用24位(三个字节)来编码.UTF-8包含全世界所有国家需要用到的字符,是国际编码,通用性强.UTF-8编码的文字可以在各国支持UTF8字符集的浏览器上显示.如,如果是UTF8编码,则在外国人的英文IE上也能显示中文,他们

一个汉字在数据库占几个字节

项目中oracle10g数据库表字段为varchar(n)类型,存英文很简单,只要字母个数不大于n即可.但是对于汉字,按照同样的方法就不行了.因为对于汉字不同的字符集,在数据库占用的字节是不一样的.UTF-8字符集,一个汉字占三个字节,gbk字符集,一个汉字占两个字节,比如varchar(10)类型的字段,UTF-8的汉字,只能存3个,gbk字符集的汉字却能存5个.所以在程序中根据表字段varchar的大小,保存或更新时作出必要的校验否则后台会报错.办法:1.用表格 maxlength属性,比如

mysql5.1中utf8编码下一个汉字占用一个char的疑惑

最近发现Oracle和MySQL的字段长度的计算不一样(都是UTF8编码),比如: 在Oracle下定义:name varchar2(10) ,name字段能存放:10个字符或3个汉字 在MySQL下定义:name varchar(10),name字段能存放:10个字符或10个汉字 从上面可以得知:在oracle下,1个汉字=3个字节 为什么在 MySQL 下,1个汉字=1个字节 呢?? 经查,说:MySQL5 以后 varchar 的单位是字符了,而 oracle 的varchar2 是字节