为了解决mysqlbing翻译表字段问题而分析frm文件(持续更新)

出处:kelvin19840813 的博客 http://www.cnblogs.com/kelvin19840813/

您的支持是对博主最大的鼓励,感谢您的认真阅读。本文版权归作者所有,欢迎转载,但请保留该声明。

很多人都知道mysqlbinlog 解释出来的binlog的 insert , update 是位置相反的 , 还有表字段都是@1 ... @数字 , 很恶心!!!

但没看到有人在 mysql8.0 功能需求时提问题出来 , 自己也没有提出来 

唯有自己解释 frm 文件,获取表字段名称,字段出来, 然后对应一下贴贴贴上去翻译出binlog的sql语句咯 ,并不是高深东西 , 仅此日记记录

0000 ~ 0001: FE 01 识别是否frm文件 , 固定

0002: 0A 是mysql版本识别位置table.cc 的 FRM_VER+3+ MY_TEST(create_info->varchar);  为6是5.0+版本mysql , 9 或者 10是有varchar的frm文件

0003: 0C 影射枚举值从 handler.h文件中 legacy_db_type , 0C 是 12 刚刚好是innodb类型 ,如下:

enum legacy_db_type
{
DB_TYPE_UNKNOWN=0,DB_TYPE_DIAB_ISAM=1,

......, DB_TYPE_INNODB,
......
};

0004 ~ 0005: 03 00 , 反着看 00 30  mysql 5.0+ 总是为3 ,如果不是3,那就算了.....

0006 ~ 0007: 00 10 , 反着看 10 00  IO_SIZE: 4096

0008 ~ 0009: 01 00 暂时不知道是什么

000a ~ 000d: 00 40 00 00 暂时不知道是什么

000e ~ 000f: F9 16 tmp_key_length;如果等于0xffff然后密钥长度是4字节整数偏移0x002f

0010 ~ 0011: 18 08 rec_length ;这是一个默认值存储字符串的字节

0012 ~ 0015: 00 00 00 00 是 create table 语句的 MAX_ROWS 选项

0016 ~ 0019: 00 00 00 00 是 create table 语句的 min_rows 选项 , 在 handler.h 文件

typedef struct st_ha_create_information
{

.......

ulonglong max_rows,min_rows;

...}

001a: 00 没有用

001b: 02 总是2 , 使用长包字段

001c ~ 001d: A3 02 key_info_length - keyinfo部分字节大小

001e ~ 001f: 69 00 是create table [table_option] 的值 my_base.h 文件的 HA_OPTION_* 之类变量

0020: 没用

0021: 05 是 frm 文件的 版本号

0022 ~ 0025: 00 00 00 00 是create table [table_option] 指定的avg_row_length

0026: create table [table_option]  指定字符集编码 [DEFAULT] CHARACTER SET

0027: 00 不知道

0028: 02 是create table [table_option] 的 ROW_FORMAT

rem0types.h文件

enum rec_format_enum {

REC_FORMAT_REDUNDANT = 0, /*!< REDUNDANT row format */
REC_FORMAT_COMPACT = 1, /*!< COMPACT row format */
REC_FORMAT_COMPRESSED = 2, /*!< COMPRESSED row format */
REC_FORMAT_DYNAMIC = 3 /*!< DYNAMIC row format */
};

0029: 00 RAID_TYPE mysql 5之前的 create table [table_option] , 没有研究干嘛的

002a: 00 RAID_CHUNKS mysql 5之前的 create table [table_option] , 没有研究干嘛的

002b ~ 002e: 00 00 00 00 RAID_CHUNKSIZE mysql 5之前的 create table [table_option] , 没有研究干嘛的

002f ~ 0032: F9 16 00 00  index metadata keyinfo部分字节大小

0033 ~ 0036: BF C5 00 00 mysql版本号 ,涉及到一个字节序问题 , 机器是x86所以是Little-Endian ,链接如下:

http://baike.baidu.com/link?url=Dd2Z3o5aNoUYQPG6xqIgNwr-jrNS8BTK72r42WVxr-SHhva4TnMsHrEXTcE_N4F6ZEhhe18Akg3hOBe2Eb-M9K

都是unsigned int ( 占 4 bytes) , little-endian

生成 MYSQL_VERSION_MAJOR , MYSQL_VERSION_MINOR ,  MYSQL_VERSION_PATCH

0037 ~ 003a: 33 00 00 00 create table [table_option] extra_info 信息

  • CONNECTION
  • ENGINE
  • PARTITION BY
  • WITH PARSER
  • Table COMMENT

003b ~ 003c: 00 00 extra_rec_buf_length

003d: 00  如果是0C,  就是分区表  , 在handler.h文件的 DB_TYPE_PARTITION_DB = 12

003e ~ 003f: 00 00  create table [table_option] 的 KEY_BLOCK_SIZE 在handler.h文件的 ulong key_block_size;

跟着下来要定位 forminfo_offset , 就是表的字段开始位置

1. 提前准备知识,struct

Format C Python 字节数
x pad byte no value 1
c char string of length 1 1
b signed char integer 1
B unsigned char integer 1
? _Bool bool 1
h short integer 2
H unsigned short integer 2
i int integer 4
I unsigned int integer or long 4
l long integer 4
L unsigned long long 4
q long long long 8
Q unsigned long long long 8
f float float 4
d double float 8
s char[] string 1
p char[] string 1
P void * long  

2. little-endian & big-endian 的了解 , 一般来说 x86是 little-endian

以下的都是固定长度 , 问题是要找出forminfo_offset , metadata_length 和 metadata_offset :

forminfo_offset , 就是表的字段开始位置,可变

metadata_offset = forminfo_offset + forminfo_length + screens_length

metadata_length = column_count * 17 bytes 到达表的第1个字段距离 + metadata_offset

forminfo_length = 288
header_size = 64

forminfo_names_length = 文件位置offset: 0x0004 (H) , 3.23版本之后都是3 , 占 2 bytes

column_count = (forminfo_offset + 258 ) (H) 字段总数 , 占 2 bytes
screens_length 有多少字节数到达 forminfo 的字段metadata , 占 2 bytes
screens_length = (forminfo_offset + 260) (H)

这里算到forminfo_offset:  0x3000

metadata_offset: 0x328C

metadata_length: 0x3446

定位了0x3446 就可以知道表的第1个字段位置 , 将2进制转换成字符 , php, python都有 struct的 pack 和 unpack 函数 , c比较麻烦一点   , 以 0xff 作为字段名成分隔符:

明天待续补充索引信息和注释信息............

时间: 2024-11-05 17:09:55

为了解决mysqlbing翻译表字段问题而分析frm文件(持续更新)的相关文章

修改非空表字段类型Oracle

执行以下语句报"要修改数据类型,则要更改的列必须为空"       alter table 表名 modify (目标字段 varchar2(100)); 解决步骤: 第一步,在表中加一个临时字段       alter table 表名 add 临时字段 目标字段原来的类型; 第二步,将目标字段的值付给临时字段,并将目标字段置空       update 表名 set 临时字段=目标字段,目标字段=null; 第三步,修改目标类型       alter table 表名  modi

atitit查询表修改表字段没反应--解锁锁定的表

查询表修改表字段没反应 要是使用gui 没反应,最好使用cmd 方式,不卉不个gui 锁上.. ALTER TABLE t_mb_awardweixin  MODIFY  awardChoiceNumLeft int(11) DEFAULT NULL #-----分析.. 1.首先,查询by另一个表格,  要是能查询,显示不是max conn的问题..也许表格锁定了.. 2. show full PROCESSLIST  要是看到个Waiting for table metadata lock

maximo数据库配置中,应用配置变更时出错、中断或删除某表字段后出现问题

如果数据库配置期间出错或者配置过程被中断,以及删除某表的某字段之后也许系统会出问题, 包括数据库配置界面无法查询(这个可以先打开管理方式,然后放弃应用配置变更,可以恢复,但数据库配置应该是未完整的) 以及添加某字段时提示表已存在这个字段,但属性界面里并没有这个字段,同时数据库中相应的表存在这个字段, 上述现象可能都是数据库应用配置变更期间系统未完整完成配置 解决方法:除了查看当前表的表字段之外,还应查看maxattribute,maxattributecfg这两个表,将未完成的配置添加进去,可参

MySQL生产库中添加修改表字段引起主从崩溃的问题总结

上周末和开发人员对线上库中的部分表的在线DDL和update,这过程中出现了一些意料之外的问题,现将过程.分析和解决方案在这里总结一下 一. 需求背景: 要在如下表中添加字段(modified_at)并且更改默认值 table_name { baby_compbaby_comp_statusbaby_usrbaby_ad_userbaby_campbaby_ordbaby_acc_eva } 每张表执行如下操作ALTER TABLE `$table_name` ADD COLUMN `modif

Supermap iClient 空间查询关联外表表查询多表字段示例代码

原创文章,转载请注明出处!http://blog.csdn.net/songhfu 空间查询关联属性表,并查询空间表和关联表字段示例代码如下: /* * 关联测试成功代码 * */ var joinItem=new SuperMap.REST.JoinItem({ foreignTableName: "V_ENABLEVIEW_LAND", joinFilter: "BBS_PARCEL.CADASTRALNO = V_ENABLEVIEW_LAND.CADASTRALNO

如何在Sql2008中获取表字段属性和注释?

如何在Sql2008中获取表字段属性和注释? select b.[value] from sys.columns a left join sys.extended_properties b on a.object_id=b.major_id and a.column_id=b.minor_id inner join sysobjects c on a.column_id=c.id and a.[name]='列名' and c.[name]='表名' SELECT 表名=case when a.

在不清楚数据表字段数据分布的情况下,应该创建什么类型的索引?

在讨论之前,先看看关系型数据库常见的索引类型: 1.位图索引,适用于该字段重复数据很多的情况: 2.B+树索引,适用于该字段重复数据不多的情况. 在不清楚数据表字段数据分布的情况下,应该创建什么类型的索引?个人觉得以上两种都不太适用,可以尝试使用第3类的索引: 3.倒排索引,在搜索引擎使用较多,适用于大多数的情况. 使用普通的文本文件格式存储倒排索引,格式为: value:rowid(行标识码),字段值对应value,rowid对应该行的标识码. 要注意的是,在创建倒排索引时,倒排索引的key需

.Net常用技巧_获取SQL Server表字段的各种属性

-- SQL Server 2000 SELECT a.name AS 字段名, CASE WHEN EXISTS (SELECT 1 FROM sysobjects WHERE xtype = 'PK' AND parent_obj = a.id AND name IN (SELECT name FROM sysindexes WHERE indid IN (SELECT indid FROM sysindexkeys WHERE id = a.id AND colid = a.colid))

MySQL建表字段类型

1.数据库:在MySQL中,要存储数据,必须从数据库开始,因此首先要创建数据库,但由于学校的MySQL服务器对学生数据帐号有限止,学生不得创建数据库,故每个学生的帐号中已事先由信息中心为大家建立了一个名为帐号名的数据库.但我们必须了解创建数据库的语句为CREATE DATABASE <数据库名>2.数据表:是构成数据库的一个基本单位,在一个数据库中用户可以建立多张数据表.这是我们有权力建立的.3.数据表结构:创建一个数据表的第一步即为创建数据表结构,在数据表结构中的内容包括:有几个字段,每个字