MySQL 高可用：mysql+mycat实现数据库分片（分库分表）

本文引用于http://blog.csdn.net/kk185800961/article/details/51147029

MySQL 高可用：mysql+mycat实现数据库分片（分库分表）

什么是MYCAT：

一个彻底开源的，面向企业应用开发的大数据库集群

支持事务、ACID、可以替代MySQL的加强版数据库

一个可以视为MySQL集群的企业级数据库，用来替代昂贵的Oracle集群

一个融合内存缓存技术、NoSQL技术、HDFS大数据的新型SQL Server

结合传统数据库和新型分布式数据仓库的新一代企业级数据库产品

一个新颖的数据库中间件产品

 Mycat关键特性 ：

支持SQL92标准

遵守Mysql原生协议，跨语言，跨平台，跨数据库的通用中间件代理。

基于心跳的自动故障切换，支持读写分离，支持MySQL主从，以及galera cluster集群。

支持Galera for MySQL集群，Percona Cluster或者MariaDB cluster

基于Nio实现，有效管理线程，高并发问题。

支持数据的多片自动路由与聚合，支持sum,count,max等常用的聚合函数,支持跨库分页。

支持单库内部任意join，支持跨库2表join，甚至基于caltlet的多表join。

支持通过全局表，ER关系的分片策略，实现了高效的多表join查询。

支持多租户方案。

支持分布式事务（弱xa）。

支持全局序列号，解决分布式下的主键生成问题。

分片规则丰富，插件化开发，易于扩展。

强大的web，命令行监控。

支持前端作为mysq通用代理，后端JDBC方式支持Oracle、DB2、SQL Server 、 mongodb 、巨杉。

支持密码加密

支持服务降级

支持IP白名单

支持SQL黑名单、sql注入攻击拦截

支持分表（1.6）

集群基于ZooKeeper管理，在线升级，扩容，智能优化，大数据处理（2.0开发版）。

（官方说明参考：Mycat 数据库分库分表中间件 ）

JDK 下载（建议要求jdk7及以上）：

http://www.oracle.com/technetwork/java/javase/downloads/java-archive-downloads-javase7-521261.html

Linux x86 147.68 MB jdk-7u80-linux-i586.tar.gz

MyCAT 相关：

Mycat 捐赠地址：http://www.mycat.io/donate.html

Mycat 官斱网站：http://www.mycat.io/

Mycat 源码：https://github.com/MyCATApache/Mycat-Server

Mycat 下载地址：https://github.com/MyCATApache/Mycat-download

既然 mycat  那么强大，那就测试看看：

#测试环境：

# 有3张表 users,item,item_detail (item 的子表) 和 3 个数据库 db01,db02,db03

# 表 users 存储在数据库 db01, 表 item 和 item_detail 分布存储在数据 db01 和 db02

# 现在在3个数据库都创建相同的表

[sql] view plain copy

  1. create database db01;
  2. create database db02;
  3. create database db03;
  4. CREATE TABLE users (
  5. id INT NOT NULL AUTO_INCREMENT,
  6. name varchar(50) NOT NULL default ‘‘,
  7. indate DATETIME NOT NULL default ‘0000-00-00 00:00:00‘,
  8. PRIMARY KEY (id)
  9. )AUTO_INCREMENT= 1 ENGINE=InnoDB DEFAULT CHARSET=utf8;
  10. CREATE TABLE item (
  11. id INT NOT NULL AUTO_INCREMENT,
  12. value INT NOT NULL default 0,
  13. indate DATETIME NOT NULL default ‘0000-00-00 00:00:00‘,
  14. PRIMARY KEY (id)
  15. )AUTO_INCREMENT= 1 ENGINE=InnoDB DEFAULT CHARSET=utf8;
  16. CREATE TABLE item_detail (
  17. id INT NOT NULL AUTO_INCREMENT,
  18. value INT NOT NULL default 0,
  19. name varchar(50) NOT NULL default ‘‘,
  20. item_id INT NOT NULL,
  21. PRIMARY KEY (id),
  22. key (item_id)
  23. )AUTO_INCREMENT= 1 ENGINE=InnoDB DEFAULT CHARSET=utf8;

# JDK 安装配置

[plain] view plain copy

  1. cd /usr/local/src
  2. tar xvf jdk-7u80-linux-i586.tar.gz
  3. mkdir -p /usr/local/java
  4. mv /usr/local/src/jdk1.7.0_80 /usr/local/java/
  5. chown -R root:root /usr/local/java
  6. cd /usr/local/java/

#配置环境变量

[plain] view plain copy

  1. vi /etc/profile
  2. vi ~/.bash_profile
  3. export JAVA_HOME=/usr/local/java/jdk1.7.0_80
  4. export PATH=$PATH:$JAVA_HOME/bin
  5. export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar

#设置生效（最好重启系统）

[plain] view plain copy

  1. source /etc/profile
  2. source ~/.bash_profile

#测试是否安装成功

[plain] view plain copy

  1. [[email protected] ~]# java -version
  2. java version "1.7.0_80"
  3. Java(TM) SE Runtime Environment (build 1.7.0_80-b15)
  4. Java HotSpot(TM) Client VM (build 24.80-b11, mixed mode)

# Mycat 安装配置

[plain] view plain copy

  1. cd /usr/local/src
  2. tar xvf Mycat-server-1.5.1-RELEASE-20160405120037-linux.tar.gz
  3. mv /usr/local/src/mycat /usr/local/
  4. groupadd mycat
  5. useradd -g mycat mycat
  6. passwd mycat
  7. chown -R mycat.mycat /usr/local/mycat

#添加环境变量

[plain] view plain copy

  1. vi /etc/profile
  2. vi ~/.bash_profile
  3. export MYCAT_HOME=/usr/local/mycat

#设置生效（最好重启系统）

[plain] view plain copy

  1. source /etc/profile
  2. source ~/.bash_profile

#服务器名和IP绑定

[plain] view plain copy

  1. vi /etc/hosts
  2. 192.168.100.50  server1
  3. 127.0.0.1       server1

# 设置 wrapper.java.command 的java 路径

 ( 同时可设置 -Xmx 和 -Xms ，参考： mycat 启动失败 The specified size exceeds the maximum representable size)

[plain] view plain copy

  1. vi /usr/local/mycat/conf/wrapper.conf
  2. wrapper.java.command=%JAVA_HOME%/bin/java

#配置 server.xml 和 schema.xml  (本案例配置信息在文章底部)

[plain] view plain copy

  1. vi /usr/local/mycat/conf/server.xml
  2. vi /usr/local/mycat/conf/schema.xml

#启动mycat服务 ./mycat { console | start | stop | restart | status | dump }

[plain] view plain copy

  1. /usr/local/mycat/bin/mycat console

[plain] view plain copy

  1. #mycat 进程
  2. ps -ef | grep mycat
  3. #日子信息
  4. tail -20 /usr/local/mycat/logs/wrapper.log

测试：

#访问 mycat   (凭据参考 /usr/local/mycat/conf/server.xml)

[plain] view plain copy

  1. mysql -utest -ptest -h127.0.0.1 -P8066 -DTESTDB

[sql] view plain copy

  1. mysql> show databases;
  2. +----------+
  3. | DATABASE |
  4. +----------+
  5. | TESTDB   |
  6. +----------+
  7. mysql> show tables;
  8. +------------------+
  9. | Tables in TESTDB |
  10. +------------------+
  11. | item             |
  12. | item_detail      |
  13. | users            |
  14. +------------------+

#在 mycat 中插入数据并查询：

[sql] view plain copy

  1. insert into users(name,indate) values(‘kk‘,now());
  2. insert into item(id,value,indate) values(1,100,now());
  3. insert into item_detail(value,name,item_id) values(‘pad‘,40,1);
  4. insert into item_detail(value,name,item_id) values(‘phone‘,50,1);
  5. insert into item(id,value,indate) values(999,100,now());
  6. insert into item_detail(value,name,item_id) values(‘pad‘,40,999);
  7. insert into item_detail(value,name,item_id) values(‘phone‘,50,999);

[sql] view plain copy

  1. mysql> select * from users;
  2. +----+------+---------------------+
  3. | id | name | indate              |
  4. +----+------+---------------------+
  5. |  1 | kk   | 2016-04-13 06:28:00 |
  6. +----+------+---------------------+
  7. mysql> select * from item;
  8. +-----+-------+---------------------+
  9. | id  | value | indate              |
  10. +-----+-------+---------------------+
  11. | 999 |   100 | 2016-04-13 06:34:12 |
  12. |   1 |   100 | 2016-04-13 06:32:58 |
  13. +-----+-------+---------------------+
  14. mysql> select * from item_detail;
  15. +----+-------+------+---------+
  16. | id | value | name | item_id |
  17. +----+-------+------+---------+
  18. |  1 |     0 | 40   |     999 |
  19. |  2 |     0 | 50   |     999 |
  20. |  1 |     0 | 40   |       1 |
  21. |  2 |     0 | 50   |       1 |
  22. +----+-------+------+---------+

#打开另一个终端，使用mysql账号登陆访问查看表情况

[plain] view plain copy

  1. mysql -uroot -ptest -p

#具体的表数据存储情况：

[sql] view plain copy

  1. -----------------------------------------
  2. mysql> select * from db01.users;
  3. +----+------+---------------------+
  4. | id | name | indate              |
  5. +----+------+---------------------+
  6. |  1 | kk   | 2016-04-13 06:28:00 |
  7. +----+------+---------------------+
  8. mysql> select * from db02.users;
  9. mysql> select * from db03.users;
  10. -----------------------------------------
  11. mysql> select * from db01.item;
  12. mysql> select * from db02.item;
  13. +-----+-------+---------------------+
  14. | id  | value | indate              |
  15. +-----+-------+---------------------+
  16. | 999 |   100 | 2016-04-13 06:34:12 |
  17. +-----+-------+---------------------+
  18. mysql> select * from db03.item;
  19. +----+-------+---------------------+
  20. | id | value | indate              |
  21. +----+-------+---------------------+
  22. |  1 |   100 | 2016-04-13 06:32:58 |
  23. +----+-------+---------------------+
  24. -----------------------------------------
  25. mysql> select * from db01.item_detail;
  26. mysql> select * from db02.item_detail;
  27. +----+-------+------+---------+
  28. | id | value | name | item_id |
  29. +----+-------+------+---------+
  30. |  1 |     0 | 40   |     999 |
  31. |  2 |     0 | 50   |     999 |
  32. +----+-------+------+---------+
  33. mysql> select * from db03.item_detail;
  34. +----+-------+------+---------+
  35. | id | value | name | item_id |
  36. +----+-------+------+---------+
  37. |  1 |     0 | 40   |       1 |
  38. |  2 |     0 | 50   |       1 |
  39. +----+-------+------+---------+

测试完成！！~数据进行了分库分表！
------------------------------------------------------------------------------------

------------------------------------------------------------------------------------

# server.xml 和 schema.xml 配置情况

[plain] view plain copy

  1. # vi /usr/local/mycat/conf/server.xml
  2. <?xml version="1.0" encoding="UTF-8"?>
  3. <!DOCTYPE mycat:server SYSTEM "server.dtd">
  4. <mycat:server xmlns:mycat="http://org.opencloudb/">
  5. <system>
  6. <!--
  7. <property name="processors">32</property>
  8. <property name="processorExecutor">32</property>
  9. <property name="bindIp">0.0.0.0</property>
  10. <property name="frontWriteQueueSize">4096</property>
  11. <property name="idleTimeout">300000</property>
  12. <property name="mutiNodePatchSize">100</property>
  13. -->
  14. <property name="defaultSqlParser">druidparser</property>
  15. <property name="mutiNodeLimitType">1</property>
  16. <property name="serverPort">8066</property>
  17. <property name="managerPort">9066</property>
  18. </system>
  19. <!-- 任意设置登陆 mycat 的用户名,密码,数据库  -->
  20. <user name="test">
  21. <property name="password">test</property>
  22. <property name="schemas">TESTDB</property>
  23. </user>
  24. <user name="user">
  25. <property name="password">user</property>
  26. <property name="schemas">TESTDB</property>
  27. <property name="readOnly">true</property>
  28. </user>
  29. <!--
  30. <quarantine>
  31. <whitehost>
  32. <host host="127.0.0.1" user="mycat"/>
  33. <host host="127.0.0.2" user="mycat"/>
  34. </whitehost>
  35. <blacklist check="false"></blacklist>
  36. </quarantine>
  37. -->
  38. </mycat:server>

[plain] view plain copy

  1. # vi /usr/local/mycat/conf/schema.xml
  2. <?xml version="1.0"?>
  3. <!DOCTYPE mycat:schema SYSTEM "schema.dtd">
  4. <mycat:schema xmlns:mycat="http://org.opencloudb/">
  5. <!-- 设置表的存储方式.schema name="TESTDB" 与 server.xml中的 TESTDB 设置一致  -->
  6. <schema name="TESTDB" checkSQLschema="false" sqlMaxLimit="100">
  7. <table name="users" primaryKey="id" type="global" dataNode="node_db01" />
  8. <table name="item" primaryKey="id" dataNode="node_db02,node_db03" rule="mod-long">
  9. <childTable name="item_detail" primaryKey="id" joinKey="item_id" parentKey="id" />
  10. </table>
  11. </schema>
  12. <!-- 设置dataNode 对应的数据库,及 mycat 连接的地址dataHost -->
  13. <dataNode name="node_db01" dataHost="dataHost01" database="db01" />
  14. <dataNode name="node_db02" dataHost="dataHost01" database="db02" />
  15. <dataNode name="node_db03" dataHost="dataHost01" database="db03" />
  16. <!-- mycat 逻辑主机dataHost对应的物理主机.其中也设置对应的mysql登陆信息 -->
  17. <dataHost name="dataHost01" maxCon="1000" minCon="10" balance="0" writeType="0" dbType="mysql" dbDriver="native">
  18. <heartbeat>select user()</heartbeat>
  19. <writeHost host="server1" url="127.0.0.1:3306" user="root" password="mysql"/>
  20. </dataHost>
  21. </mycat:schema>

其他参考：

http://www.csdn.net/article/2015-07-16/2825228 （原理及应用）

http://www.songwie.com/articlelist/50（理论和实践 写的好）

http://ly.blog.itpub.net/29733787/viewspace-2049139/（示例）  MyCAT安装使用及简单测试

http://www.cnblogs.com/ivictor/p/5111495.html（示例）  MyCAT简易入门

http://www.2cto.com/database/201503/385641.html（示例） Mycat水平分表，垂直分表实践（2）

http://www.51testing.com/html/34/369434-3686088.html（示例）使用Mycat 做简单的读写分离(一)

时间： 2024-10-10 23:54:08

MySQL 高可用：mysql+mycat实现数据库分片（分库分表）的相关文章

数据库-数据库设计-分库分表

为什么要分库分表 分库分表的设计 带来的问题 扩容 分布式事务 多个路由字段怎么设置 关于分库分表最全的一篇文章 这里介绍设计分库分表框架时应该考虑的设计要点,并给出相应的解决方案. 一.整体的切分方式 简单来说,数据的切分就是通过某种特定的条件,将我们存放在同一个数据库中的数据分散存放到多个数据库(主机)中,以达到分散单台设备负载的效果,即分库分表. 数据的切分根据其切分规则的类型,可以分为如下两种切分模式. 垂直(纵向)切分:把单一的表拆分成多个表,并分散到不同的数据库(主机)上. 水平(横

Mycat读写分离和分库分表配置

Mycat是一个开源的分布式数据库系统,不同于oracle和mysql,Mycat并没有存储引擎,但是Mycat实现了mysql协议,前段用户可以把它当做一个Proxy.其核心功能是分表分库,即将一个大表水平分割为N个小表,存储在后端mysql存储引擎里面.最新版本的Mycat不仅支持mysql,还可以支持MS SqlServer,Oracle,DB2等关系型数据库,而且还支持MongoDB这种NoSQL.Mycat对调用者屏蔽了后端存储具体实现. Mycat的原理是先拦截用户的SQL语句并做分

数据库（分库分表）中间件对比

转自:http://www.cnblogs.com/cangqiongbingchen/p/7094822.html 分区:对业务透明,分区只不过把存放数据的文件分成了许多小块,例如mysql中的一张表对应三个文件.MYD,MYI,frm. 根据一定的规则把数据文件(MYD)和索引文件(MYI)进行了分割,分区后的表呢,还是一张表.分区可以把表分到不同的硬盘上,但不能分配到不同服务器上. 优点:数据不存在多个副本,不必进行数据复制,性能更高. 缺点:分区策略必须经过充分考虑,避免多个分区之间的数

【数据库】分库分表策略

关系型数据库本身比较容易成为系统瓶颈,单机存储容量.连接数.处理能力都有限.当单表的数据量达到1000W或100G以后,由于查询维度较多,即使添加从库.优化索引,做很多操作时性能仍下降严重.此时就要考虑对其进行切分了,切分的目的就在于减少数据库的负担,缩短查询时间. 数据库分布式核心内容无非就是数据切分(Sharding),以及切分后对数据的定位.整合.数据切分就是将数据分散存储到多个数据库中,使得单一数据库中的数据量变小,通过扩充主机的数量缓解单一数据库的性能问题,从而达到提升数据库操作性能的

MyCat实现读写分离+分库分表+全局表

前言 mycat功能强大,配置简单,作为数据库中间件,是一个非常优秀的开源产品,关于MyCat的部署安装,可以参考博文:MyCat部署安装. 本博文将展示mycat的如下功能: 读写分离: 分库分表: 全局表: 环境如下: 系统 IP 主机名 服务 Centos 7.5 192.168.20.2 mysql01 MySQL 5.7.24 Centos 7.5 192.168.20.3 mysql02 MySQL 5.7.24 Centos 7.5 192.168.20.3 mysql03 MyS

【转】数据库的分库分表基本思想

Sharding的基本思想就要把一个数据库切分成多个部分放到不同的数据库(server)上,从而缓解单一数据库的性能问题.不太严格的讲,对于海量数据的数据库,如果是因为表多而数据多,这时候适合使用垂直切分,即把关系紧密(比如同一模块)的表切分出来放在一个server上.如果表并不多,但每张表的数据非常多,这时候适合水平切分,即把表的数据按某种规则(比如按ID散列)切分到多个数据库(server)上.当然,现实中更多是这两种情况混杂在一起,这时候需要根据实际情况做出选择,也可能会综合使用垂直与水平

【数据库】分库分表

一. 水平分表:当一张表里数据过多时,就可以考虑水平分表了. 水平分表一般按照表的某一字段进行切分,如按照时间,每个月的数据单独放一张表里,表名加上时间进行标识 水平分表适用于单表数据量大,且查询最好单表查询,如按时间切分,则查询时时间跨度最好在一个月里面,如果跨度大则需要多表联查,联查的表越多性能就越差,就体现不出分表的价值了 二.垂直分表 :当一张表里的字段过多时,就可以考虑垂直分表了. 垂直分表可以将常用的字段放一张表里,不常用的字段放另一张表里,多表之间的关联可以用guid来做,当然要打

MyCat：对MySQL数据库进行分库分表

本篇前提: mycat配置正确,且能正常启动. 1.schema.xml <table>标签: dataNode -- 分片节点指定(取值:dataNode中的name属性值)rule ------ 分片规则选择(取值:rule标签中的name属性值) 1 2 3 [[email protected] conf]# vim schema.xml 1 <?xml version="1.0"?> 2 <!DOCTYPE mycat:schema SYSTEM

mycat初次简单配置分库分表

先规划下数据库的基础架构,先来个最简单基础的. 三台虚机,各安装了mysql5.7 用mycat建立逻辑数据库,建立5个表格,其中一个表格分库,一个表格做全局表,剩余三个表格每个虚机的数据库各放一个. 统计信息: 三个虚机的IP分别为: 192.168.211.138 192.168.211.139 192.168.211.142 真实的dataNode就是这三个虚机啦. mysql的登录用户就用[email protected]%,密码都是:[email protected] mycat逻辑库

数据库的高可用 及 Mycat的引入

(一)实现数据库的读写分离 1 业务需求   在服务中,只配置主库.如果遇到了高并发的现象,则主库有宕机的风险,用户大量的请求中,查询的数量是最多的.如何进行优化呢?? 2 解决方案: 使用代理服务器(Amoeba) Amoeba是一个以Mysql为底层的数据存储,并对应用提供Mysql协议接口的proxy.它集中地响应用的请求,依据用户事先设置的规则,将SQL请求发送到特定的数据库上执行.基于此可以实现负载均衡,读写分离,高可用性等需求.与MySql官方的MySql Proxy相比,作者强调的