理解并解决GBK转UTF-8奇数中文乱码(转)

最近在做一个反馈功能,把数据反馈到对方公司网站,我公司是GBK编码,对方公司是UTF-8编码。因此,我需要将GBK编码数据转换成UTF-8编码数据,这样对方网站才不会乱码。最简单的方法是将HttpClient的ContentCharset设置为utf-8;如果ContentCharset是gbk并且又不想设置为utf-8,那么就需要将数据转换成UTF-8编码再发到对方网站。

问题出现:GBK转UTF-8时,奇数个中文会乱码,偶数个中文不会乱码。
三个中文

Java代码  

  1. public static void encodeError() throws UnsupportedEncodingException {
  2. String gbk = "我来了";
  3. String utf8 = new String(gbk.getBytes("UTF-8"));
  4. //模拟UTF-8编码的网站显示
  5. System.out.println(new String(utf8.getBytes(),"UTF-8"));
  6. }
  7. /*
  8. 我来??
  9. */

前面三个中文,后面一个中文,都是奇数

Java代码  

  1. public static void encodeError2() throws UnsupportedEncodingException {
  2. String gbk = "今年是2011年";
  3. String utf8 = new String(gbk.getBytes("UTF-8"));
  4. //模拟UTF-8编码的网站显示
  5. System.out.println(new String(utf8.getBytes(),"UTF-8"));
  6. }
  7. /*
  8. 今年??011??
  9. */

原因:为什么只有奇数个中文才乱码,偶数个却不乱码?下面来分析原因

Java代码  

  1. public static void analyze() throws UnsupportedEncodingException {
  2. String gbk = "我来了";
  3. String utf8 = new String(gbk.getBytes("UTF-8"));
  4. for (byte b : gbk.getBytes("UTF-8")) {
  5. System.out.print(b + " ");
  6. }
  7. System.out.println();
  8. for (byte b : utf8.getBytes()) {
  9. System.out.print(b + " ");
  10. }
  11. }
  12. /*
  13. -26 -120 -111 -26 -99 -91 -28 -70 -122
  14. -26 -120 -111 -26 -99 -91 -28 -70 63
  15. */

注意最后一个字节不同,上面一行才是正确的UTF-8编码。那么为什么下面一行最后一个字节是63,而不是-122呢?这就是导致乱码的原因所在。
GBK编码是一个中文2个字节,而UTF-8编码是一个中文3个字节,当我们调用getBytes("UTF-8")方法时,会通过计算来增加字节,使得从GBK的2个字节变成UTF-8对应的3个字节。因此,上例3个中文输出了9个字节。

这里讲一下怎么通过计算增加字节,不深究的读者可以跳过此段。为了醒目,直接用代码讲解

Java代码  

  1. public static void gbk2Utf() throws UnsupportedEncodingException {
  2. String gbk = "我来了";
  3. char[] c = gbk.toCharArray();
  4. byte[] fullByte = new byte[3*c.length];
  5. for (int i=0; i<c.length; i++) {
  6. String binary = Integer.toBinaryString(c[i]);
  7. StringBuffer sb = new StringBuffer();
  8. int len = 16 - binary.length();
  9. //前面补零
  10. for(int j=0; j<len; j++){
  11. sb.append("0");
  12. }
  13. sb.append(binary);
  14. //增加位,达到到24位3个字节
  15. sb.insert(0, "1110");
  16. sb.insert(8, "10");
  17. sb.insert(16, "10");
  18. fullByte[i*3] = Integer.valueOf(sb.substring(0, 8), 2).byteValue();//二进制字符串创建整型
  19. fullByte[i*3+1] = Integer.valueOf(sb.substring(8, 16), 2).byteValue();
  20. fullByte[i*3+2] = Integer.valueOf(sb.substring(16, 24), 2).byteValue();
  21. }
  22. //模拟UTF-8编码的网站显示
  23. System.out.println(new String(fullByte,"UTF-8"));
  24. }

现在我们来找出最后一个字节是63,而不是-122的原因。

Java代码  

  1. public static void analyze2() throws UnsupportedEncodingException {
  2. String gbk = "我来了";
  3. byte[] utfBytes = gbk.getBytes("UTF-8");//得到9个字节
  4. String utf8 = new String(utfBytes);//问题就出在这
  5. System.out.print(utf8);
  6. }
  7. /*
  8. 鎴戞潵浜?
  9. */

因为文件是GBK编码,new String(utfBytes)默认就是new String(utfBytes,"GBK")。它会2个字节2个字节地转换成字符,当字节是奇数时最后1个字节转字符就会计算错误,然后直接赋予最后这个字符为?,对应ASCII代码就是63。

解决问题
保证字节正确才是硬道理。当调用getBytes("UTF-8")转换成字节数组后,创建ISO-8859-1编码的字符串,ISO-8859-1编码是一个字节对应一个字符,因此不会使最后一个字节错误。

Java代码  

  1. public static void correctEncode() throws UnsupportedEncodingException {
  2. String gbk = "我来了";
  3. String iso = new String(gbk.getBytes("UTF-8"),"ISO-8859-1");
  4. for (byte b : iso.getBytes("ISO-8859-1")) {
  5. System.out.print(b + " ");
  6. }
  7. System.out.println();
  8. //模拟UTF-8编码的网站显示
  9. System.out.println(new String(iso.getBytes("ISO-8859-1"),"UTF-8"));
  10. }
  11. /*
  12. -26 -120 -111 -26 -99 -91 -28 -70 -122
  13. 我来了
  14. */

http://www.iteye.com/topic/1097560

时间: 2024-08-27 02:02:17

理解并解决GBK转UTF-8奇数中文乱码(转)的相关文章

配置Tomcat解决URL传参引出的中文乱码问题

今天在写一个JSP页面时候,发现下面报错: <span style="font-size:18px;"> <a href="request.jsp?username=小七七">测试URL传参</a></span> 通常情况下,通过使用contentType和下面的就可以解决传参过程中的中文乱码问题,但是貌似URL传参还要设备别的东西. <% request.setCharacterEncoding("u

解决Centos 6.3 中 gedit中文乱码问题

1.安装gconf-editor yum list | grep conf-editor yum install gconf-editor 2.运行gconf-editor 设置: apps  ---> gedit-2  --->  preferences  ----> encoding auto-detected 项添加Add New list value: GB2312 shown_in_menu 项添加 New list value: GB2312  解决Centos 6.3 中

如何解决链入js,innerHTML中文乱码问题呢?

描述:发生在做suhuotong网站的时候,添加在线客服代码的时候三个地方1.将js以UTF-8无BOM编码:VS修改或者使用NotePad++修改2.<meta http-equiv="Content-Type" content="text/html; charset=gb2312" />[我觉得这个不是关键的]3.<script type="text/javascript" src="/{aspcms:sitepa

解决get方法传递URL参数中文乱码问题

如果是tomcat的话 server.xml文件里<Connector port="80" protocol="HTTP/1.1" connectionTimeout="20000" redirectPort="8443" URIEncoding="UTF-8"/>IE11浏览器不行,谷歌火狐浏览器可以 解决get方法传递URL参数中文乱码问题

spring boot 解决后台返回 json 到前台中文乱码之后出现返回json数据报错 500:no convertter for return value of type

问题描述 spring Boot 中文返回给浏览器乱码 解析成问号?? fastJson jackJson spring boot 新增配置解决后台返回 json 到前台中文乱码之后,出现返回json数据报错:no convertter for return value of type 注释掉解决中文乱码的问题之后返回对象json正常 Failed to write HTTP message: org.springframework.http.converter.HttpMessageNotWr

关于Androdi中SQLITE 3采用GBK编码存储,数据库中文乱码问题。

1.最近开发一个项目,用SQLite Expert Personal打开数据库如下图,title会产生乱码,问题. 2.由于SQL lite默认是存储UTF-8格式,后来更改数据库编码类型为ANSI,依据操作系统,本地ANSI为GB2312格式,查看发现编码格式正常. 3.用Android程序读取,采用以下方式,可以完整读取出中文字符. Product pr=new Product(); //解决中文乱码问题 byte[] val = cursor.getBlob(cursor.getColum

解决Windows客户端访问vsftpd服务器中文乱码问题

上周五-业务部同事反馈客户使用我司的FTP服务,发现文件和目录是中文全部乱码,不方便查看修改文件目录等操作故障 原因:vsftpd不能处理字符编码的转换,Windows使用GBK编码,linux使用zh_CN.UTF-8编码 解决方法:1.使用能够设置编码的FTP客户端1-1 FlashFXP客户端,选择[站点]-[站点管理器]-[站点列表]-[快速连接],选择使用的连接,点击[选项]-[字符编码]-[UTF-8].1-2 FileZilla客户端,选择[站点]-[站点管理器]-[站点列表]-[

[oracle]解决centos 7下oracle的中文乱码问题

首先在形成中文乱码的原因是由于字符集不统一导致的,不同的字符集在转换的过程中必然要出现乱码,当然不排除可以转换.所以要解决中文乱码问题,思路是将输入.存储.显示等流程中涉及到字符集都统一为一种,对于oracle首先必须满足的先决条件是要服务端和客户段的字符集统一,若还不能解决问题,同时还要将系统的字符集与之统一,甚至导入或输入数据所使用的字符集统一. 看了网上的一些资料后,都说修改服务器的字符集风险比较大,确实,测试开发用还好说,假若是上线项目的服务器,那修改服务器字符集所带来的后果是不堪的,废

javaweb解决post和get请求方式中文乱码问题(通用)

添加一个过滤器,解决乱码问题,代码如下: 1 import java.io.IOException; 2 import java.io.UnsupportedEncodingException; 3 import java.util.Map; 4 5 import javax.servlet.Filter; 6 import javax.servlet.FilterChain; 7 import javax.servlet.FilterConfig; 8 import javax.servlet

解决springMVC4下使用@ResponseBody的中文乱码问题

由于现在的项目一般都追求前后端分离,依靠Ajax进行通信,这样有助于团队分工.项目维护和后期的平台移植,这就使得后端框架对视图层的功能要求越来越低~ 今天要说的是基于SpringMVC开发web后端时,为了简单而直接在控制器方法中返回json字符串时碰到的中文乱码问题.算是非常基础的问题,大牛请绕道~ 其实我自己一开始也没觉得能有多复杂,认为一搜索就能找到一大把解决方案,所以没有计划耗费多久时间,更没打算转成写一篇博文记录过程.可不曾想到,足足花了我2个半小时,今天看来又要加班了!其实确实在GG