MySQL多字节字符集造成主从数据不一致问题

问题产生
线上一直有个历史遗留问题,最近DBA提了出来,所以跟了下代码,作了下简单分析,问题描述如下:
在master-slave的环境下,对master上的某个表中的数据插入,会导致master-slave数据不一致的情况,通过反复试验,确定出现该情况的条件如下:

  • master上设置了character_set_server=gbk
  • 应用中采用了prepared statement并且设置了useCursorFetch=true
  • 对于master上某个表中的int字段,采用了字符的形式进行插入

比如,master上有张表,结构如下:

create table t(id int auto_increment primay key, count int)engine=innodb;

进行的操作如下:

conn = DriverManager.getConnection("jdbc:mysql://192.168.0.1:3307/test?useCursorFetch=true&user=root");
pstmt = conn.prepareStatement("insert into test(count) values(?)");
pstmt.setString(1, "1");
pstmt.execute();

通过上面的操作,我们发现,在master上,插入后的结果如下: 

mysql> select * from t;
+----+-------+
| id | count |
+----+-------+
| 1 | 1 |
+----+-------+

而在slave上,却变成了另外一个结果: 

mysql> select * from t;
+----+-------+
| id | count |
+----+-------+
| 1 | 49 |
+----+-------+

从上面的信息可以看出,master-slave上的数据出现了不一致,查看master上的binlog,我们会发现如下信息:

insert into t(count) values(0x31)

这里的binlog中的值‘1‘被转化成了16进制0x31。
问题分析binlog在某种情况下会被转化成16进制存储,这个可能很多人没有注意,转化成16进制有又造成了master-slave上数据不一致,这个就让人比较难以接受了,以下我们的分析就从这两方面入手:
  • MySQL为什么要把Binlog转化成16进制,在那些条件下会转成16进制?
  • 转化成16进制后,数据为什么会出现不一致?

首先,我们来分析第一个问题,通过上面的条件进行跟踪测试,我们很快发现,MySQL把Binlog中的字符串转化成16进制存储的条件有两个:

  • 客户端使用了prepared statement
  • 客户端传过来的编码是多字节符集编码

客户端在使用prepared statement的时候,在执行前,需要先解析出内部给定的参数,由于涉及到转义的问题,需要把参数内部的如\0,\n等字符进行相应的替换(\0会被替换成‘\\0‘),而对于多字节字符集编码的字符串(如:gbk,gb2312),转义字符‘\‘可能出现在字符的第二个字节,例如字符串“?\0”,可能实际的编码是两个字符‘?\‘和‘0’,如果按照替换的原则替换,很有可能会破坏原有的字符串的内容,所以MySQL对于这种转义符‘\‘可能出现在第二个字节的字符集,都给了一个标识进行说明(escape_with_backslash_is_dangerous=1),在处理时,遇到这种字符集,直接把字符串转成16进制进行处理,这样就可以避免转义出现的问题。
具体的代码可以查看log_event.cc文件中的append_query_string函数,关键代码如下:

if (csinfo->escape_with_backslash_is_dangerous)
ptr= str_to_hex(ptr, from->ptr(), from->length());
else
{
*ptr++= ‘\‘‘;
ptr+= escape_string_for_mysql(csinfo, ptr, 0,from->ptr(), from->length());
*ptr++=‘\‘‘;
}

整个字符串转成16进制的过程在Prepared statement处理时进行,所以在没有使用prepared statement或者客户端字符集不会出现转义符‘\‘出现在第二字节的情况下,不会产生该问题。转义符‘\‘会出现在第二字节的字符集如下:my_charset_big5_chinese_cimy_charset_big5_binmy_charset_cp932_japanese_cimy_charset_cp932_binmy_charset_gbk_chinese_cimy_charset_gbk_binmy_charset_sjis_japanese_cimy_charset_sjis_bin
分析了第一个问题,再来看第二个问题,binlog被转成16进制后,为什么主从上的数据会出现不一致?MySQL中,参数类型的确定在SQL语句的解析中进行,由于prepare statement采用先给出SQL后设置值得形式,所以在解析SQL时,MySQL还不知道具体的值,构造了Item_param对象,然后通过设置,把后面的参数‘1‘设置给Item_param的str_value成员,而对于salve,binlog传递没有prepared statement的信息,所以在slave上,还是按照一般的方式执行,slave发现value的值为0x31,所以构造一个Item_hex_string对象来保存,所以我们只需要查看下两个Item的save_in_field方法,就可以查明具体的原因,先看master上的处理:field->store(str_value.ptr(), str_value.length(),str_value.charset());最终的处理方式为get_int(cs, from, len, &rnd, UINT_MAX32, INT_MIN32, INT_MAX32);我们的字段类型为int,而实际给定的值是string,在处理时,需要进行转换,转换的关键代码如下:

for (ul= 0 ; str < end9 && (ch= (uchar) (*str - ‘0‘)) < 10; str++)
{
ul= ul * 10 + ch;
}

从上面的代码我们可以知道,master这种转化方式类似于C中的atoi函数,例如字符串‘1234‘会被转换为1234,如果中间出现非数字字符,后面部分会被截断,所以,在master上的数据就是字符串‘1‘转换过来的值1现在看下slave上的处理:slave上处理转换的方法主要在下面的代码:nr= (ulonglong) val_int();函数val_int的处理过程如下:先检查字段类型,如果是string则按照string的方式处理,如果不是string,则按照下面的方式处理

char *end=(char*) str_value.ptr()+str_value.length(),
*ptr=end-min(str_value.length(),sizeof(longlong));
ulonglong value=0;
for (; ptr != end ; ptr++)
value=(value << 8)+ (ulonglong) (uchar) *ptr;

slave上通过把value中的每个字节强制转化得到,所以如果value为‘1234’,通过强制转换过来的值将是:

(uchar)‘1‘ << 24 + (uchar)‘2‘ << 16 + (uchar)‘3‘ << 8 + (uchar)‘4‘
= 31 << 24 + 32 << 16 + 33 << 8 + 34

这样就造成了master-slave上的数据不一致
总结该问题主要的原因在于MySQL的两种不同的Item在处理字符串转整型的方法不一致,Item_param通过类似于atoi的形式,直接把字符中的数字通过-‘0‘转换到整型,而Item_hex_string则通过强制内存转化所得,这两种方式都合理,但是两边没有统一,造成replication出错,MySQL从5.1版本后到目前MySQL5.5的版本中都存在该问题(MySQL5.6没有测试过,应该也存在该问题)。解决方法:
  1. 服务端使用utf8字符集编码(由于前面时gbk,改成utf8会出现乱码等很多问题)
  2. 更改应用不对int字段进行非int数据的插入
  3. 更改应用不使用prepare statement
  4. binlog的format设置成row格式

注:该问题已经上报给MariaDB,并且被确认为一个Bug,将在后续的版本中进行修复。

时间: 2024-12-25 02:23:36

MySQL多字节字符集造成主从数据不一致问题的相关文章

Mysql丢数据及主从数据不一致的场景

Mysql丢数据及主从数据不一致的场景 随着对MySQL的学习,发现了MySQL的很多问题,最重要的就是丢数据的问题.对于丢数据问题,我们应该了解丢数据的场景,这样在以后的学习中多考虑如何去避免及解决这些问题. 1.MySQL数据库层丢数据场景   本节我们主要介绍一下在存储引擎层上是如何会丢数据的. 1.1.InnoDB丢数据   InnoDB支持事务,同Oracle类似,事务提交需要写redo.undo.采用日志先行的策略,将数据的变更在内存中完成,并且将事务记录成redo,顺序的写入red

[mysql]一次主从数据不一致的问题解决过程

之前一篇: 主从更换ip之后重新建立同步 情况时这样的 昨天晚上主动2个机器都迁移了,然后今天才把主动重新连接上,但是从库的偏移量是从今天当前时刻开始的,也就是说虽然现在主动看似正常,其实是少了昨天的部分数据,由于从库的数据丢失了,早晚还是要填坑的. 问题 要解决问题就是怎么对比不一致,然后在不影响业务的情况下,修复数据不一致的问题,把从库缺少的数据补上 下面是能想到和找到的几个方案 1 从新从0开始同步,虽然对主库的使用没有影响,但是那么大的数据量,对性能,网络影响有点大,数据丢失的应该很少

基于GTID Replication主从数据不一致操作

基本的M-S结构 现在master与slave主机数据一致: mysql> select * from t1; +------+ | id   | +------+ |    1 | |    2 | |    4 | +------+ 3 rows in set (0.00 sec) 我们来模拟故障现象: 在master上,通过设置sql_log_bin来控制命令是否写入二进制日志中,运行命令: set sql_log_bin=OFF; insert into t1 values(5); se

mysql 主从数据不一致 Slave_SQL_Running: No 解决方法

在slave服务器上通过如下命令 mysql> show slave status\G; 显示如下情况: Slave_IO_Running: Yes Slave_SQL_Running: No 表示slave不同步 解决方法一(忽略错误,继续同步): 1.先停掉slave mysql> stop slave; 2.跳过错误步数,后面步数可变 mysql> set global sql_slave_skip_counter=1; 3.再启动slave mysql> start sla

数据库主从数据不一致解决方案

先上Master库: mysql>show processlist; 查看下进程是否Sleep太多.发现很正常. show master status; 也正常. mysql> show master status; +-------------------+----------+--------------+-------------------------------+ | File | Position | Binlog_Do_DB | Binlog_Ignore_DB | +-----

使用maatkit工具检查并同步mysql主从数据

Maatkit是一组开源工具包,为mysql的日常管理提供了帮助.其中mk-table-checksum可以用来检测master和slave的表结构和数据是否一致.同时,通过mk-table-sync工具,在发现主从数据不一致时,可以修复不同步的数据. 实验环境: Master:192.168.189.143:3306 Slave:192.168.189.144:3306 1:安装Maatikit工具. 安装perl环境:   #wget http://packages.sw.be/perl-T

MySQL Replication数据不一致

mha文章:http://467754239.blog.51cto.com/4878013/1695175  关于如何验证主从数据的不一致 pt-table-checksum,它可以检测master和slave上表结构和数据是否一致 如何解决主从数据不一致 pt-table-sync,它可以修复主从数据不一致 这两款工具都是由Percona公司提供的,Percona在MySQL的日常管理提供了很多类似的工具. 适用场景 pt-table-checksum是一个在线验证主从数据一致性的工具,主要用

使用percona-toolkit校验主从数据的一致性

主从数据校验使用percona-toolkit工具集的以下两个工具(主库上使用): pt-table-checksum  #检查主从数据是否一致, pt-table-sync #把主库数据同步到从库 适用场景如下: 1). 数据迁移前后,进行数据一致性检查 2). 当主从复制出现问题,待修复完成后,对主从数据进行一致性检查 3). 在从库上执行了误操作 4). 定期校验 原理: pt-table-checksum在主库上利用SBR格式对一段数据做hashcode函数运算,然后复制到从库上去检查,

pt-osc改表导致数据不一致案例分析

2016-06-10 李丹 dba流浪猫 我们平时除了解决自己问题外,有时候也会协助圈内人士,进行一些故障排查,此案例就是帮某公司DBA进行的故障分析,因为比较典型,特分享一下,但仅仅是分享发生的过程,不对该案例的产生以及如何避免做过多评价! pt-online-schema-change:是对大表进行在线alter操作,并尽量避免影响线上业务,这是最优秀的mysql管理工作之一,在平时的工作中,帮助我们胜多. 环境说明 pt-osc 版本:percona-toolkit-2.2.14 mysq