MySQL之架构与历史(二)

多版本并发控制

MySQL的大多数事务型存储引擎实现的都不是简单的行级锁。基于提升并发性能的考虑,它们一般都同时实现了多版本并发控制(MVCC)。不仅是MySQL,包括Oracle、PostgreSQL等其他数据库系统也都实现了MVCC

,但各自的实现机制不尽相同,因为MVCC没有一个统一的实习标准。

可以认为MVCC是行级锁的一个变种,但是它在很多情况下避免了加锁操作,因此开销更低。虽然实现机制不同,但大都实现了非阻塞的读操作,写操作也只锁定了必要的行。

MVCC的实现,是通过保存数据在某个时间点的快照来实现的。也就是说,不管需要执行多长时间,每个事务看到的数据都是一致的。根据事务开始的时间不同,每个事务对同一张表,同一时刻看到的数据可能是不一样的。

前面说到不同存储引擎的MVCC实现是不同的,典型的有乐观(optimistic)并发控制和悲观(pessimistic)并发控制。下面我们通过InnoDB的简化版行为来说明MVCC是如何工作的。

InnoDB的MVVC,是通过在每行记录后面保存两个隐藏列来实现的。一个保存了行的创建时间,一个保存了行的过期时间(或删除时间)。当然存储的并不是实际的时间值,而是系统版本号(system version number)。每开启一个新的事务,系统版本号都会自动递增。事务开始时刻的系统版本号会作为当前事务的版本号,用来和查询到的每行记录的版本号进行比较。下面看一下在REPEATABLE READ 隔离级别下,MVCC具体是如何操作的。

SELECT

InnoDB会根据一下两个条件检查每行记录:

  • InnoDB只查找版本早于当前事务版本的数据行(也就是,行的系统版本号小于等于当前事务的系统版本号),这样可以确保事务读取的行,要么实在事务开始前就已经存在的,要么是事务自身插入或修改过的。
  • 行的删除版本要么未定义,要么大于当前事务版本号。这可以确保事务读取到的行,在事务开始之前未被删除。

只有符合上述两个条件的记录,才能作为返回结果。

INSERT

InnoDB为新插入的每一行保存当前的系统版本号作为行版本号。

DELETE

InnoDB为删除的每一行保存当前系统版本号作为行删除标识。只有commit的时候才会真正删除。

UPDATE

InnoDB为插入一行新记录,保存当前系统版本号作为行版本号,同时保存当前系统版本号到原来的行作为行删除标识。

保存这两个额外系统版本号,使大多数读操作都可以不用加锁。这样设计使得读数据操作很简单,性能很好,并且也能保证只会读取到符合标准的行。不足之处是每行记录都需要额外的存储空间,需要做更多的行检查工作,以及一些额外的维护工作。

MVCC只在REPEATABLE READ和READ COMMITTED 两个隔离级别下工作。其他两个隔离级别都和MVCC不兼容 ,因为READ UNCOMMITTED 总是读取最新的数据行,而不是符合当前事务版本的数据行。而SERIALIZABLE 则会对所有读取的行都加锁。

MySQL的存储引擎

在文件系统中,MySQL将每个数据库(也称为schema)保存为数据目录下的一个子目录。创建表时,MySQL会在数据库子目录下创建一个和表同名的.frm文件保存表的定义。因为MySQL使用文件系统的目录和文件来保存数据库和表的定义,大小写敏感和具体的平台密切相关。在Windows中,大小写是不敏感的;而在类Unix中则是敏感的。不同的存储引擎保存的数据和索引的方式是不同的,但表的定义则是在MySQL服务层统一处理的。

可以使用SHOW TABLE STATUS命令查看表的相关信息。例如,对于mysql数据库中的user表:

mysql> use mysql;
Reading table information for completion of table and column names
You can turn off this feature to get a quicker startup with -A

Database changed
mysql> SHOW TABLE STATUS LIKE ‘user‘\G;
*************************** 1. row ***************************
           Name: user
         Engine: InnoDB
        Version: 10
     Row_format: Dynamic
           Rows: 5
 Avg_row_length: 3276
    Data_length: 16384
Max_data_length: 0
   Index_length: 0
      Data_free: 4194304
 Auto_increment: NULL
    Create_time: 2018-10-05 22:37:53
    Update_time: NULL
     Check_time: NULL
      Collation: utf8_bin
       Checksum: NULL
 Create_options: stats_persistent=0
        Comment: Users and global privileges
1 row in set (0.04 sec)

  

  • Name:表名。
  • Engine:表的存储引擎。在旧版本中,该列的名字叫Type,而不是Engine。
  • Version:版本。
  • Row_format:行格式。对于MyISAM引擎,这可能是Dynamic,Fixed或Compressed。Dynamic(动态行)的行长度可变,一般包含可变长的字段,如Varchar或Blob 类型字段。Fixed(固定行)是指行长度是不变的,只包含固定的长度列,例如Char和Integer类型字段。Compressed的行旨在压缩表中存在。
  • Rows:表中的行数。对于非事务性表(MyISAM),这个值是精确的,对于事务性引擎(InnoDB),这个值通常是估算的。
  • Avg_row_length:平均每行包含的字节数(单位:字节)
  • Data_length:整个表的数据量(单位:字节)
  • Max_data_length:表可以容纳的最大数据量,该值和存储引擎有关。
  • Index_length:索引占用磁盘的空间大小(单位:字节)
  • Data_free:对于MyISAM表,表示已分配,但现在未使用的空间,并且包含了已被删除行的空间(行),以及后续可以被INSERT利用到的空间。
  • Auto_increment:下一个Auto_increment的值
  • Create_time:表的创建时间。
  • Update_time:表的最近修改时间(更新时间)。
  • Check_time:使用check table命令或myisamchk工具最近一次检查表时间。
  • Collation:表的默认字符集和字符排序规则。
  • Checksum:如果启用,保存的是整个表的实时校验和。
  • Create_options:指表创建时的其他所有选项。
  • Comment:包含了其他额外信息,MyISAM引擎(表),保存的是表在创建时已有的注释;innodb引擎(表),保存的是InnoDB表空间的剩余空间信息;如果是一个视图,该列(注释)里面包含了"VIEW"字样。

InnoDB存储引擎

InnoDB是MySQL的默认事务型引擎,也是最重要、使用最广泛的存储引擎。他被设计出来处理大量的短期事务,短期事务大部分情况是正常提交的,很少会被回滚。InnoDB的性能和自动崩溃恢复特性,使得他在非事务型存储需求中也很流行。除非要特别重要的原因需要使用其他存储引擎,否则应该优先考虑InnoDB。

InnoDB概览

InnoDB的数据存储在表空间中,表空间是由InnoDB管理的一个黑盒子,由一系列的数据文件组成。。在MySQL4.1以后的版本中,InnoDB可以将每个表的数据和索引存放在单独的文件中。InnoDB也可以使用裸设备作为表空间的存储介质,但现代的文件系统使得裸设备不再是必要选择。

InnoDB采用MVCC来支持高并发,并且实现了四个标准的隔离级别。其默认级别是REPEATABLE READ(可重复读),并且通过间隙锁策略防止幻读的出现。间隙锁使得InnoDB不仅仅锁定查询涉及的行,还会对索引中的间隙进行锁定,以防止幻影行的插入。

InnoDB表是基于聚簇索引建立的,InnoDB的索引结构和MySQL的其他存储引擎有很大不同,聚簇索引对主键查询有很高的性能。不过它的二级索引(非主键索引)中必须包含主键列,所以如果主键列很大的话,其他的索引都会很大。因此,若表上的索引较多的话,主键应当尽可能的小。

InnoDB内部做了很多优化,包括从磁盘读取数据时采用的可预测性预读,能够自动在内存中创建hash索引以加速读操作的自适应哈希索引(adaptive hash index),以及能够加速插入操作的插入缓冲区(insert buffer)等。

MyISAM存储引擎

在MySQL 5.1及之前的版本,MyISAM是默认的存储引擎。MyISAM提供了大量的特性,包括全文索引,压缩,空间函数(GIS)等,但MyISAM不支持事务和行级锁且有一个毫无疑问的缺陷就是崩溃后无法安全恢复。正是由于MyISAM引擎的缘故,即使MySQL支持事务已经很长时间了,在很多人的概念中MySQL还是非事务性的数据库。尽管MyISAM引擎不支持事务,不支持崩溃后的安全回复,但它绝不是一无是处的。对于只读的数据,或者表比较小,可以忍受修复操作,则依然可以继续使用MyISAM。

存储

MyISAM会将表存储在两个文件中:数据文件和索引文件,分别以.myd和.myi为拓展名。MyISAM表可以包含动态或者静态(长度固定)行。MySQL会根据表的定义来决定采用何种行格式。MyISAM表可以存储的行记录数,一般受限于可用磁盘控件,或者操作系统中单个文件的最大尺寸。

MyISAM特性

加锁与并发:MyISAM对整张表进行加锁,而不是针对行。读取时会对需要读到的所有表加共享锁,写入时则对表加排他锁。但是在表有读取查询的时候,也可以往表中插入新的记录(这被称为并发插入)。

修复:对与MyISAM表,MySQL可以手工或者自动执行检查和修复操作,但这里说的修复和事务回复以及崩溃恢复是不同的概念。执行表的修复可能导致一些数据丢失,而且修复操作是非常慢的。可以通过CHECK TABLE mytable检查表的错误,如果有错误可以通过执行REPAIR TABLE mytable进行修复。另外,如果MySQL服务器已经关闭,可以通过myisamchk命令行工具进行检查和修复操作。

索引特性:对于MyISAM表,即使是BLOB和TEXT等长字段,也可以基于其前500个字符创建索引,MyISAM也支持全文索引,这是一种基于分词创建的索引,可以支持复杂的查询。

延迟更新索引:创建MyISAM表的时候,如果指定了DELAY_KEY_WRITE选项,在每次修改执行完成时,不会立刻将修改的索引数据写入磁盘,而是会写到内存中的键缓冲区,只有在清理键缓冲区或者关闭表的时候才会将对应的索引块写入到磁盘。这种方式可以极大的提升写入性能,但是在数据或者主机崩溃时会造成索引损坏,需要执行修复操作。延迟更新索引的特性,可以在全局设置,也可以为单个表设置。

MyISAM压缩表

如果表在创建并导入后,不会再进行修改操作,那么这样的表或许适合采用MyISAM压缩表。

可以使用myisampack对MyISAM表进行压缩(也叫打包pack)。压缩表是不能进行修改的(除非先将表解除压缩,修改数据,然后再次压缩)。压缩表可以极大地减少磁盘空间占用,因此也可以减少磁盘I/O,从而提升查询性能。压缩表也支持索引,但索引也是只读的。
以现在的硬件能力,对大多数应用场景,读取压缩表数据时的解压带来的开销影响并不大,而减少I/O带来的好处则要大得多。压缩时表中的记录是独立压缩的,所以读取单行的时候不需要去解压整个表(甚至也不解压行所在的整个页面)。

MyISAM性能

MyISAM引擎设计简单,数据以紧密格式存储,所以在某些场景下的性能很好。MyISAM有一些服务器级别的性能扩展限制,比如对索引键缓冲区(key cache)的Mutex锁,MariaDB基于段(segment)的索引缓冲区机制来避免该问题。但MyISAM最典型的性能问题还是表锁的问题,如果你发现所有的查询都长期处于“Locked”状态,那么毫无疑问表锁就是罪魁祸首。

MySQL内建的其他存储引擎

Archive引擎

Archive引擎只支持INSERT和SELECT操作,在MySQL5.1之前也不支持索引。Archive引擎会缓存所有的写并利用zlib对插入的行进行压缩,所以比MyISAM表的磁盘I/O更少。但是每次SELECT查询都需要全表扫描。所以Archive表适合日志和数据采集类的应用,这类应用锁数据分析时往往需要全表扫描,或者在一些需要快速INSERT操作的场合下也可以使用。

Archive引擎支持行级锁和专用的缓冲区,所以可以实现高并发的插入。在一个查询的开始直到返回表中存在所有行数之前,Archive引擎会阻止其他SELECT的执行,以实现一致性读。另外,也实现了批量插入在完成之前对读操作是不可见的。这种机制模仿了MVCC的一些特性。但Archive不是一个事务型引擎,而是一个针对高速插入和压缩做了优化的简单引擎。

Blackhole引擎

Blackhole引擎没有实现任何的存储机制,他会舍弃所有插入的数据,不做任何保存。但是服务器会记录Blackhole表的日志,所以可以用于复制数据到备库,或者只是简单的记录到日志。这种特殊的存储引擎可以在一些特殊的复制框架和日志审核时发挥作用,但是也会存在很多问题,所以不推荐使用。

CSV引擎

CSV引擎可以将普通的CSV文件(逗号分割值的文件)作为MySQL的表来处理,但是这种表不支持索引。CSV引擎可以在数据库运行时拷入或者拷出文件。可以将Excel等电子表格软件中的数据存储为CSV文件,然后复制到MySQL数据目录下,就能在MySQL中打开使用。同样,如果将数据写入到一个CSV引擎表,其他外部程序也能立即从表的数据文件中读取CSV格式的数据。因此CSV引擎可以作为一个数据交换的机制非常有用。

Federated引擎

Federated引擎是访问其他MySQL服务器的一个代理,他会创建一个到远程MySQL服务器的客户端连接,并将查询传输到远程服务器执行,然后提取或者发送需要的数据。尽管该引擎看起来提供了一个很好的跨服务器灵活性,但是经常会带来问题,因此默认是禁用的,后续改良版本FederatedX.

Memory引擎

如果需要快速访问数据,并且这些数据不会被修改,重启后丢失也没关系,那么可以使用Memory表(以前也叫HEAP表)是非常有用的,Memory比MyISAM至少要快一个数量级,因为所有数据都保存在内存中,不需要进行磁盘I/O。Memory表在重启后结构会保留,但是数据会丢失。

Memory表可以在很多场景发挥好的作用:

  • 用于查找(lookup)或者映射(mapping)表,如将邮编和州名映射的表。
  • 用于缓存周期性聚合数据(periodically aggregated data)的数据。
  • 用于保存数据分析中产生的中间数据。

Memory表支持Hash索引,因此查找操作非常快。虽然Memory速度非常快,但是还是无法替代基于磁盘的表。Memory是表级锁,因此并发写入的性能较低。他不支持BLOB以及TEXT类型的列,并且每行长度是固定的,所以即使指定了VARCHAR列,实际存储的时候也会转换成CHAR,这可能导致部分内存的浪费(一些限制基本在Percona版本基本解决)。

如果MySQL在执行查询的过程中需要使用临时表来保存中间结果,内部使用的临时表就是Memory表。如果中间结果太大超出了Memory限制,或者含有BLOB或TEXT字段,则临时表会转换成MyISAM表。

人们经常混淆Memory表或者临时表,临时表是指CREATE TEMPOARY TABLE语句创建的表,他可以使用任何存储引擎,因此和Memory表不是一回事。临时表只在单个连接可见,当连接断开时,临时表也将不复存在。

Merge引擎

Merge引擎是MyISAM引擎的一个变种。Merge表是由多个MyISAM表合成的虚拟表。如果将MySQL用于日志或者数据仓库类应用,该引擎可以发挥作用。但是引入分区后,该引擎被放弃。

NDB集群引擎

MySQL服务器、NDB集群存储引擎,以及分布式的、share-nothing的、容灾的、高可用的NDB数据库的组合,被称为MySQL集群(MySQL-Cluster)。

选择合适的引擎

大部分情况下InnoDB都是正确的选择,所以Oracle在MySQL5.5版本时,将InnoDB作为默认的存储引擎。除非使用到了某些InnoDB不具备的特性,并且没有其他办法可以替代,否则都应该优先考虑InnoDB引擎。例如需要使用全文索引,建议优先考虑InnoDB+Sphinx组合,而不是使用支持全文索引的MyISAM。当然如果不需要使用InnoDB的特性,同时其他特性能够更好地满足需求,可以考虑使用其他存储引擎。

除非万不得已,否则建议不要混合使用多种存储引擎,否则可能会带来一系列复杂的问题,以及一些潜在的bug和边界问题。存储引擎层和服务层的交互已经比较复杂,更不用说混合多个存储引擎了。至少,混合存储对一致性备份和服务器参数配置都带来了困难。

如果应用需要不同的存储引擎,请考虑以下几个因素:

事务:如果需要事务支持,那么InnoDB(或者XtraDB)是目前最稳定并且经过验证的选择。如果不需要使用事务,并且主要是使用SELECT和INSERT操作,那么MyISAM是一个不错的选择。一般日志型的应用比较符合这一特性。

备份:备份的需求也会影响存储引擎的选择。如果可以定期的关闭服务器进行备份,那么备份的因素可以忽略。反之,如果需要在线热备份,那么选择InnoDB就是基本要求。

崩溃恢复:数据量比较大的时候,系统崩溃后如何快速恢复是一个需要考虑的问题。相对而言,MyISAM崩溃后发送损坏的概率比InnoDB要高很多,而且恢复速度也要慢。因此,即使不需要事务支持,很多人也选择InnoDB引擎,这是一个非常重要的因素。

特有的特性:最后有些应用可能依赖一些存储引擎所独有的特性或者优化,比如很多应用依赖聚簇索引的优化。另外,MySQL中也只有MyISAM支持地理空间搜索。如果一个存储引擎拥有一些关键的特性,同时又缺乏一些必要的特性,那么有时候就不得不做折中的考虑,或者在架构设计上做一些取舍。某些存储引擎无法直接支持的特性,有时候可以通过变通也可以满足需要。

日志型应用

假设你需要实时地记录一台中心电话交换机的每一通电话的日志到MySQL中。或者通过Apache的mod_log_sql模块将网站的所有访问信息自己记录到表中。这一类的应用插入速度有很高的要求,数据库不应该成为瓶颈。MyISMAM或者Archive存储引擎对这类应用比较合适,因为它们开销低,并且插入速度非常快。

如果需要对记录的日志做分析报表,则事情就会变得有趣了。生成报表的SQL很有可能导致插入效率明显降低,该怎么做呢?

一种解决方法,是利用MySQL内置的复制方案将数据复制一份到备库,然后备份库上执行比较消耗时间和CPU的查询。这样主库只用于高效的插入工作,而备库的查询无须担心影响到日志的插入性能。当然也可以在系统负载较低的时候执行报表查询操作。但应用在不断变化,如果依赖这个策略可能以后会导致问题。

另一种方法,在日志记录表的名字中包含年和月的信息,比如web_log_2012_01或者web_log_2012_jan。这样可以在已经没有插入操作的历史表上做频繁的查询操作,而不会干扰到最新的当前表上的插入操作。

只读或者大部分情况下只读的表

有些表的数据用于编制类目或者分列清单(如工作岗位、竞拍、不动产等),这种应用的场景是典型的读多写少的业务。如果不介意MyISAM的崩溃问题,选用MyISAM引擎是合适的。不过不要低估崩溃恢复问题的重要性。有些存储引擎不会保证数据完全写入到磁盘中,而许多用户实际上并不清楚这样有多大风险(MyISAM只将数据写到内存中,然后等待操作系统定期将数据刷出到磁盘上)。

一个值得推荐的方式,是在性能测试环境模拟真实的环境,运行应用,然后拔下电源模拟崩溃测试。对于崩溃恢复的第一手测试经验是无价之宝,可以避免碰到真正的崩溃手足无措。

不要轻易相信“MyISAM比InnoDB快”之类的经验之谈,这个结论往往不是绝对的。在很多已知的场景中,InnoDB的速度都可以让MyISAM望尘莫及,尤其是使用到了聚簇索引,或者需要访问的数据都可以放入到内存的应用。后面还会介绍更多影响存储引擎性能的因素(如数据大小、I/O请求量,主键还是二级索引等)以及这些因素对应用的影响。

当设计上述类型的应用时,建议采用InnoDB,MyISAM引擎一开始可能没有任何问题,但是随着应用压力的上升,则可能迅速恶化。各种锁的争用、崩溃后数据丢失的问题也都会随之而来。

订单处理

如果涉及订单处理,那么支持事务就是必要选项。另外一个重要考虑点就是存储引擎对外键的支持情况。InnoDB是订单处理类应用最佳选择。

电子公告牌和主题讨论论坛

对于MySQL用户,主题讨论群是一个很有意思的话题。当前有成百上千的基于PHP或者Perl的免费系统可以支持主题讨论。其中大部分的数据库效率并不高,因为他们多大倾向于在一次请求中执行尽可能多的查询语句。另外还有部分系统设计为不采用数据库,当然也就无法利用到数据库提供的一些方便的特性。主题讨论区一般都有更新计数器,并且为各个主题计算访问统计信息。多数应用只设计了几张表保存所有的数据,所以核心表的读写压力可能非常大。为保证这些核心表的数据一致性,锁成为资源竞争的主要因素。

尽管有这些设计缺陷,但大多数应用在中低负载时可以工作的很好。如果web站点的规模迅速扩张,流量随之猛增,则数据库访问可能变得非常慢。此时一个典型的解决方案是更改为更高读写的存储引擎,但有时用户会发现这么做反而导致系统变慢了。

用户可能没有意识到这是由于某些查询的缘故,典型的如:

mysql> SELECT COUNT(*) FROM table;

问题就在于,不是所有的存储引擎运行上述查询都非常快:对于MyISAM确实会很快,其他的可能不行。每种存储引擎都能找出类似对自己有利的例子,下一章将帮助用户分析这些状况,演示如何发现和解决存在的这类问题。  

CD-ROM应用

如果要发布一个基于CD-ROM或者DVD-ROM并且使用MySQL数据文件的应用,可以考虑使用MyISAM表或者MyISAM压缩表,这样的表之间可以隔离并且可以在不同介质上相互拷贝。MyISAM压缩表比未压缩的表要节约很多空间,但压缩表是只读的。在某些应用中可能是一个大问题。但是如果数据放到只读介质的场景下,压缩表的只读特性就不是问题,就没有理由不采用压缩表的。

大数据量

什么样的数据量算大?我们创建或者管理的很多InnoDB数据库的数据量在3~5TB之间或者更大,这是单台机器上的量,不是一个分片(shard)的量。这些系统运行还不错,要做到这一点需要合理的选择硬件,做好物理设计,并为服务器的I/O瓶颈做好规划。在这样的数据量下,如果采用MyISAM,崩溃后的恢复就是一个噩梦。

如果数据量继续增长到10TB以上的级别,可能就需要建立数据仓库。Infobright是MySQL数据仓库最成功的解决方案。也有一些大数据库不适合Infobright,却可能适合TokuDB。

转换表的引擎

有很多种方法可以将表的存储引擎转换成另外一种引擎。每种方法都有其优点和缺点。下面介绍其中的三种方法:

ALTER TABLE

将表从一个引擎修改为另一个引擎最简单的版本是使用ALTER TABLE语句。下面的语句将mytable的引擎修改为InnoDB:

mysql> create table mytable(name varchar(32)) ENGINE = MyISAM;
Query OK, 0 rows affected (0.05 sec)

mysql> SHOW TABLE STATUS LIKE ‘mytable‘\G;
*************************** 1. row ***************************
           Name: mytable
         Engine: MyISAM
        Version: 10
     Row_format: Dynamic
           Rows: 0
 Avg_row_length: 0
    Data_length: 0
Max_data_length: 281474976710655
   Index_length: 1024
      Data_free: 0
 Auto_increment: 1
    Create_time: 2018-10-07 03:58:03
    Update_time: 2018-10-07 03:58:03
     Check_time: NULL
      Collation: utf8mb4_0900_ai_ci
       Checksum: NULL
 Create_options:
        Comment:
1 row in set (0.11 sec)

mysql> ALTER TABLE mytable ENGINE=InnoDB;
Query OK, 0 rows affected (0.05 sec)
Records: 0  Duplicates: 0  Warnings: 0

mysql> SHOW TABLE STATUS LIKE ‘mytable‘\G;
*************************** 1. row ***************************
           Name: mytable
         Engine: InnoDB
        Version: 10
     Row_format: Dynamic
           Rows: 0
 Avg_row_length: 0
    Data_length: 0
Max_data_length: 281474976710655
   Index_length: 1024
      Data_free: 0
 Auto_increment: 1
    Create_time: 2018-10-07 03:59:16
    Update_time: 2018-10-07 03:58:03
     Check_time: NULL
      Collation: utf8mb4_0900_ai_ci
       Checksum: NULL
 Create_options:
        Comment:
1 row in set (0.00 sec)

  

上述语法可以适用于任何存储引擎。但是有一个问题:需要执行很长的时间。MySQL会按行将数据从原表复制到一张新的表中,在复制期间可能会消耗系统所有的I/O能力,同时原表上会加上读锁。所以,在繁忙的表上执行此操作需要特别小心。一个替代方案是采用接下来将要讨论的导出导入的方法,手工进行表的复制。

如果转换表的存引擎,将会失去原引擎相关的所有特性。例如,将InnoDB表转为MyISAM表,再转换为InnoDB,原InnoDB表上所有的外键将丢失。

导出与导入

为了更好控制转换的过程,可以使用mysqldump工具将数据导出到文件,然后修改文件中的CREATE TABLE语句的存储引擎选项,注意同时修改表名,因为同一个数据库中不能存在相同的表名,即使他们使用的是不同的存储引擎。同时还要注意mysqldump会默认在CREATE TABLE前加上DROP TABLE语句,不注意这一点可能会导致数据丢失。

创建与查询(CREATE和SELECT)

第三种转换的技术综合了第一种方法的高效和第二种方法的安全。不需要导出整个表的数据,而是先创建一个新的存储引擎表,然后利用INSERT ...SELECT语法来导数据:

创建存储引擎为MyISAM的myisam_table表,并插入测试数据

mysql> create table myisam_table(name varchar(32)) ENGINE = MyISAM;
Query OK, 0 rows affected (0.12 sec)

mysql> insert into `myisam_table`(`name`) values(‘Amy‘);
Query OK, 1 row affected (0.01 sec)

mysql> insert into `myisam_table`(`name`) values(‘John‘);
Query OK, 1 row affected (0.00 sec)

mysql> insert into `myisam_table`(`name`) values(‘Rose‘);
Query OK, 1 row affected (0.01 sec)

mysql> select * from myisam_table;
+------+
| name |
+------+
| Amy  |
| John |
| Rose |
+------+
3 rows in set (0.00 sec)

  

创建和myisam_table存储引擎一样的innodb_table,并修改其存储引擎

mysql> create table innodb_table like myisam_table;
Query OK, 0 rows affected (0.07 sec)

mysql> SHOW TABLE STATUS LIKE ‘innodb_table‘\G;
*************************** 1. row ***************************
           Name: innodb_table
         Engine: MyISAM
        Version: 10
     Row_format: Dynamic
           Rows: 0
 Avg_row_length: 0
    Data_length: 0
Max_data_length: 281474976710655
   Index_length: 1024
      Data_free: 0
 Auto_increment: 1
    Create_time: 2018-10-07 04:09:37
    Update_time: 2018-10-07 04:09:37
     Check_time: NULL
      Collation: utf8mb4_0900_ai_ci
       Checksum: NULL
 Create_options:
        Comment:
1 row in set (0.02 sec)

mysql>  select * from innodb_table;
Empty set (0.00 sec)

mysql> alter table innodb_table ENGINE=InnoDB;
Query OK, 0 rows affected (0.07 sec)
Records: 0  Duplicates: 0  Warnings: 0

mysql> SHOW TABLE STATUS LIKE ‘innodb_table‘\G;
*************************** 1. row ***************************
           Name: innodb_table
         Engine: InnoDB
        Version: 10
     Row_format: Dynamic
           Rows: 0
 Avg_row_length: 0
    Data_length: 0
Max_data_length: 281474976710655
   Index_length: 1024
      Data_free: 0
 Auto_increment: 1
    Create_time: 2018-10-07 04:10:03
    Update_time: 2018-10-07 04:09:37
     Check_time: NULL
      Collation: utf8mb4_0900_ai_ci
       Checksum: NULL
 Create_options:
        Comment:
1 row in set (0.00 sec)

  

使用INSERT ...SELECT语句将myisam_table的数据插入到innodb_table中

mysql> insert into innodb_table select * from myisam_table;
Query OK, 3 rows affected (0.06 sec)
Records: 3  Duplicates: 0  Warnings: 0

mysql> select * from innodb_table;
+------+
| name |
+------+
| Amy  |
| John |
| Rose |
+------+
3 rows in set (0.00 sec)

  

如果数据量不大的话,这样工作很好。如果数据量很大,则可以考虑分批处理针对每一段数据执行事务提交操作,以避免大事务产生过多的undo。假设主键字段id,重复执行以下语句(最小值x和最大值y的进行相应替换)将数据导入到新表:

mysql> START TRANSACTION;

mysql> INSERT INTO innodb_table SELECT * FROM myisam_table WHERE id BETWEEN x AND y;

mysql> COMMIT;

  

这样操作完成后,新表是原表的一个全量复制,原表还在,如果需要可以删除原表。如果有必要可以在执行过程中对原表加锁,以确保新表和原表的一致性。

原文地址:https://www.cnblogs.com/beiluowuzheng/p/9749315.html

时间: 2024-11-08 12:09:45

MySQL之架构与历史(二)的相关文章

MySql的架构和历史

1.1.mysql的逻辑架构 架构为如下: 存储引擎:负责数据的储存和提取,供了几十个API供服务层进行调用.各个存储引擎之间不会进行交互,只是供服务层进行调用.事务控制和锁的管理也是在存储引擎里面进行. 服务层:一个sql过来之后,会在服务层进行解析,建立解析树,调用底层的存储引擎得到各种开销信息和统计信息,进行各种优化,决定表的读取顺序以及选择合适的索引. 1.2  并发控制 1. mysql通过加读锁和写锁来进行并发控制. 2.锁的粒度 表锁      并发程度低,锁的开销小       

MySQL的架构与历史

MySQL的最主要特性是它的存储引擎架构,这种架构设计将查询处理以及其他系统任务和数据的存储/提取相分离. MySQL最上层服务是一些如连接处理,授权认证,安全等. MySQL的核心服务功能大部分度在第二层架构中.包括查询解析,分析,优化,缓存以及所有的内置函数,所有跨存储引擎的功能都在这一层实现:存储过程,触发器和视图等. 第三层包含了存储引擎.存储引擎负责MySQL中数据的存储和提取.服务器通过API鱼存储引擎进行通信. MySQL会解析查询,并创建内部数据结构(解析树),然后对其进行各种优

第一章 MYSQL的架构和历史

在读第一章的过程中,整理出来了一些重要的概念. 锁粒度  表锁(服务器实现,忽略存储引擎). 行锁(存储引擎实现,服务器没有实现). 事务的ACID概念 原子性(要么全部成功,要么全部回滚). 一致性(从一个一致性状态转换到另外一个一致性状态). 隔离性(一个事务所做的修改在提交前,对其他事务是不可见的). 持久性(一旦事务提交,所有修改都会永久保存到数据库中). 四种隔离级别 READ UNCOMMITTED(未提交读): 事务即使没有提交,所做的修改对其他事务是可见的.  也称脏读. REA

第01章 MySQL架构与历史

MySQL最重要的特性是它的存储引擎架构,它将查询处理与其他的系统任务和数据存储,提取相分离. 1 MySQL逻辑架构 最上层的是客户端:主要负责链接处理,授权认证,安全等 中间一层是MySQL的核心,服务器:主要负责查询解析,分析优化,缓存以及所有的内置函数,所有跨存储引擎的功能都在这一层实现,例如:存储过程,触发器,视图等 最下一层是存储引擎:存储引擎负责MySQL中数据的存储和提取,可以使用不同的存储引擎,不同的存储引擎有各自的优势和劣势,不同的存储引擎之间不能通信,只相应上层服务器的请求

mysql-poxy 实现mysql主从架构读写分离

在高并发系统设计中,后端数据库的性能往往会成为系统的瓶颈,这时候就需要进行合理的设计,以分摊后端数据库的压力,比如在数据层前面构建缓存层.数据文件存放在RAID这样的设备.对数据进行分库分表分区存放.合理利用索引.进行数据的读写分离等.mysql-proxy提供了mysql数据库的读写分离能力,mysql-proxy通过Lua脚本能分析得出用户的sql请求,如果发现在是read请求,则会转化到master-slave模型的slave中,如果是write请求,则会转发到master中,以达到读写分

MySQL Innodb 架构学习

一.MySQL后台线程   1.Master Thread 核心后台线程,主要负责将缓冲池的数据异步刷新到磁盘.例如脏页的刷新,插入缓冲的合并,undo 页的回收等. 1)每秒一次的操作: 日志缓冲刷新到磁盘,即使该事务还没有提交.该操作总是会发生,这个就是为了再大的事务,提交时间都很短. 当IO压力很小时(1s内发生的IO次数小于5% innodb_io_capacity)合并5% innodb_io_capacity 的插入缓冲. 当脏页比例大于 innodb_max_dirty_pages

MySQL主从架构详解

1.复制概述 Mysql内建的复制功能是构建大型,高性能应用程序的基础.将Mysql的数据分布到多个系统上去,这种分布的机制,是通过将Mysql的某一台主机的数据复制到其它主机(slaves)上,并重新执行一遍来实现的.复制过程中一个服务器充当主服务器,而一个或多个其它服务器充当从服务器.主服务器将更新写入二进制日志文件,并维护文件的一个索引以跟踪日志循环.这些日志可以记录发送到从服务器的更新.当一个从服务器连接主服务器时,它通知主服务器从服务器在日志中读取的最后一次成功更新的位置.从服务器接收

keepalived +mysql 构建MYSQL AAB架构

MYSQL AAB架构 近日做了一次MYSQL 主主从架构的实验.功能实现:用三台服务器(master1,master2,slave)搭建主主从服务器.master1和master2主主复制,并且互为主备.当slave服务器在复制过程中,VIP所在的主服务器的MYSQL.网络或者系统等出现故障,导致从服务器slave无法从该服务器复制时,系统自动把从服务器指向的主的IP转移到另外一台服务器上.从而实现了故障转移.本次实验,使用了mysql5.6后的新功能gtid保持主主复制的一致性. 一:实验环

MySQL主从复制架构使用方法

一. 单个数据库服务器的缺点 数据库服务器存在单点问题 数据库服务器资源无法满足增长的读写请求 高峰时数据库连接数经常超过上限 二. 如何解决单点问题 增加额外的数据库服务器,组建数据库集群 同一集群中的数据库服务器需要具有相同的数据 集群中的任一服务器宕机后,其它服务器可以取代宕机服务器 三. MySQL主从复制架构 1. 主库将变更写入到主库的binlog中 一些MySQL版本并不会开启二进制日志,所以一定要检查是否开启 如果刚开始没有开启,后面再进行开启的话,需要重启数据库才能生效,而且数