mycat 离散分片 -> 程序指定分区的分片

1。程序指定分区的分片

此规则是在运行阶段有应用自主决定路由到那个分片。

此方法为直接依据字符子串(必须是数字)计算分区号(由应用传递參数。显式指定分区号)。


2,加入配置文件

在function.xml里面进行配置:

        <function name="sharding-by-substring-040302" class="org.opencloudb.route.function.PartitionDirectBySubString">
                <property name="startIndex">0</property>
                <property name="size">1</property>
                <property name="partitionCount">8</property>
                <property name="defaultPartition">0</property>
        </function>

    比如id=0-100000020在此配置中代表依据id中从startIndex=0,開始,截取siz=1位数字即0,0就是获取的分区,假设没传默认分配到defaultPartition

        <tableRule name="tr-sharding-substr-mc040302">
                 <rule>
                         <columns>CODE</columns>
                          <algorithm>sharding-by-substring-040302</algorithm>
                </rule>
        </tableRule>

在schema.xml里面进行配置:

    <table name="ORDER040302" primaryKey="ID" dataNode="dn21,dn22" rule="tr-sharding-substr-mc040302"/>

3,建表而且录入数据

    CREATE TABLE ORDER040302(ID INT NOT NULL AUTO_INCREMENT PRIMARY KEY,CODE VARCHAR(64),SN VARCHAR(64),CREATE_TIME DATETIME);
    mysql> CREATE TABLE ORDER040302(ID INT NOT NULL AUTO_INCREMENT PRIMARY KEY,CODE VARCHAR(64),SN VARCHAR(64),CREATE_TIME DATETIME);
    Query OK, 0 rows affected (0.05 sec)

    mysql>
    INSERT INTO ORDER040302(ID,CODE,SN,CREATE_TIME) VALUES(1,‘0-10000020‘,‘beijing_03-10000020‘,NOW());
    INSERT INTO ORDER040302(ID,CODE,SN,CREATE_TIME) VALUES(2,‘1-10000020‘,‘shanghai_10-10000020‘,NOW());
    mysql> explain INSERT INTO ORDER040302(ID,CODE,SN,CREATE_TIME) VALUES(1,‘0-10000020‘,‘beijing_03-10000020‘,NOW());
    +-----------+----------------------------------------------------------------------------------------------------+
    | DATA_NODE | SQL                                                                                                |
    +-----------+----------------------------------------------------------------------------------------------------+
    | dn21      | INSERT INTO ORDER040302(ID,CODE,SN,CREATE_TIME) VALUES(1,‘0-10000020‘,‘beijing_03-10000020‘,NOW()) |
    +-----------+----------------------------------------------------------------------------------------------------+
    1 row in set (0.00 sec)

    mysql>
    mysql> INSERT INTO ORDER040302(ID,CODE,SN,CREATE_TIME) VALUES(1,‘0-10000020‘,‘beijing_03-10000020‘,NOW());
    Query OK, 1 row affected (0.01 sec)

    mysql>
    mysql> explain INSERT INTO ORDER040302(ID,CODE,SN,CREATE_TIME) VALUES(2,‘1-10000020‘,‘shanghai_10-10000020‘,NOW());
    +-----------+-----------------------------------------------------------------------------------------------------+
    | DATA_NODE | SQL                                                                                                 |
    +-----------+-----------------------------------------------------------------------------------------------------+
    | dn22      | INSERT INTO ORDER040302(ID,CODE,SN,CREATE_TIME) VALUES(2,‘1-10000020‘,‘shanghai_10-10000020‘,NOW()) |
    +-----------+-----------------------------------------------------------------------------------------------------+
    1 row in set (0.00 sec)

    mysql> INSERT INTO ORDER040302(ID,CODE,SN,CREATE_TIME) VALUES(2,‘1-10000020‘,‘shanghai_10-10000020‘,NOW());
    Query OK, 1 row affected (0.00 sec)

    mysql> 

4,对insert操作流程进行分析,參考mycat.log对路由过程做完整的分析

查看后台mycat.log分析例如以下:

開始获取连接:
    02/13 00:40:18.173  DEBUG [$_NIOREACTOR-1-RW] (ServerQueryHandler.java:56) -ServerConnection [id=1, schema=TESTDB, host=127.0.0.1, user=test,txIsolation=3, autocommit=true, schema=TESTDB]INSERT INTO ORDER040302(ID,CODE,SN,CREATE_TIME) VALUES(2,‘1-10000020‘,‘shanghai_10-10000020‘,NOW())

開始路由匹配:
    02/13 00:40:18.175  DEBUG [$_NIOREACTOR-1-RW] (NonBlockingSession.java:113) -ServerConnection [id=1, schema=TESTDB, host=127.0.0.1, user=test,txIsolation=3, autocommit=true, schema=TESTDB]INSERT INTO ORDER040302(ID,CODE,SN,CREATE_TIME) VALUES(2,‘1-10000020‘,‘shanghai_10-10000020‘,NOW()), route={
       1 -> dn22{INSERT INTO ORDER040302(ID,CODE,SN,CREATE_TIME) VALUES(2,‘1-10000020‘,‘shanghai_10-10000020‘,NOW())}

匹配好路由后,直接往相应的dn21节点開始运行insert数据录入操作:
    02/13 00:40:18.180  DEBUG [$_NIOREACTOR-1-RW] (NonBlockingSession.java:229) -release connection MySQLConnection [id=17, lastTime=1455295218162, user=root, schema=db3, old shema=db3, borrowed=true, fromSlaveDB=false, threadId=199, charset=latin1, txIsolation=3, autocommit=true, attachment=dn22{INSERT INTO ORDER040302(ID,CODE,SN,CREATE_TIME) VALUES(2,‘1-10000020‘,‘shanghai_10-10000020‘,NOW())}, respHandler=SingleNodeHandler [node=dn22{INSERT INTO ORDER040302(ID,CODE,SN,CREATE_TIME) VALUES(2,‘1-10000020‘,‘shanghai_10-10000020‘,NOW())}, packetId=0], host=10.254.1.11, port=3327, statusSync=null, writeQueue=0, modifiedSQLExecuted=true]

连接释放:
    02/13 00:40:18.180  DEBUG [$_NIOREACTOR-1-RW] (PhysicalDatasource.java:403) -release channel MySQLConnection [id=17, lastTime=1455295218162, user=root, schema=db3, old shema=db3, borrowed=true, fromSlaveDB=false, threadId=199, charset=latin1, txIsolation=3, autocommit=true, attachment=null, respHandler=null, host=10.254.1.11, port=3327, statusSync=null, writeQueue=0, modifiedSQLExecuted=false]
    02/13 00:40:24.390  DEBUG [Timer1] (SQLJob.java:85) -con query s

5,运行简单的查询,假设指定分片字段ID字段,则走分片查询单个分片节点

mycat命令台显示结果:

    mysql> explain select * from ORDER040302 t1 where CODE= ‘0-10000020‘;
    +-----------+------------------------------------------------------------------+
    | DATA_NODE | SQL                                                              |
    +-----------+------------------------------------------------------------------+
    | dn21      | SELECT * FROM ORDER040302 t1 WHERE CODE = ‘0-10000020‘ LIMIT 100 |
    +-----------+------------------------------------------------------------------+
    1 row in set (0.00 sec)

    mysql> select * from ORDER040302 t1 where CODE= ‘0-10000020‘;
    +----+------------+---------------------+---------------------+
    | ID | CODE       | SN                  | CREATE_TIME         |
    +----+------------+---------------------+---------------------+
    |  1 | 0-10000020 | beijing_03-10000020 | 2016-02-13 00:40:27 |
    +----+------------+---------------------+---------------------+
    1 row in set (0.01 sec)

    mysql>

查看后台mycat日志信息:

    02/13 00:44:46.717  DEBUG [$_NIOREACTOR-1-RW] (ServerQueryHandler.java:56) -ServerConnection [id=1, schema=TESTDB, host=127.0.0.1, user=test,txIsolation=3, autocommit=true, schema=TESTDB]explain select * from ORDER040302 t1 where CODE= ‘0-10000020‘
    02/13 00:44:46.718  DEBUG [$_NIOREACTOR-1-RW] (EnchachePool.java:76) -SQLRouteCache  miss cache ,key:TESTDB select * from ORDER040302 t1 where CODE= ‘0-10000020‘
    02/13 00:44:46.719  DEBUG [$_NIOREACTOR-1-RW] (EnchachePool.java:59) -SQLRouteCache add cache ,key:TESTDB select * from ORDER040302 t1 where CODE= ‘0-10000020‘ value:select * from ORDER040302 t1 where CODE= ‘0-10000020‘, route={
       1 -> dn21{SELECT *
    FROM ORDER040302 t1
    WHERE CODE = ‘0-10000020‘
    LIMIT 100}
    }

6。假设分片字段范围的查询,则走全部节点去检索。哪怕仅仅有一条数据在一个分片上。route路由也是走全部的分片进行检索查询

    mysql> explain select * from ORDER040302 t1 where CODE likt ‘0-1%‘;
    +-----------+---------------------------------------------------+
    | DATA_NODE | SQL                                               |
    +-----------+---------------------------------------------------+
    | dn21      | SELECT * FROM ORDER040302 t1 WHERE CODE LIMIT 100 |
    | dn22      | SELECT * FROM ORDER040302 t1 WHERE CODE LIMIT 100 |
    +-----------+---------------------------------------------------+
    2 rows in set (0.00 sec)

    mysql> 

7,假设不走分片字段的查询。即使是单个数据。也要route路由全部的分片,走全部的分片进行查询

    mysql> explain select * from ORDER040302 t1 where SN=‘beijing_03-10000020‘;
    +-----------+-------------------------------------------------------------------------+
    | DATA_NODE | SQL                                                                     |
    +-----------+-------------------------------------------------------------------------+
    | dn21      | SELECT * FROM ORDER040302 t1 WHERE SN = ‘beijing_03-10000020‘ LIMIT 100 |
    | dn22      | SELECT * FROM ORDER040302 t1 WHERE SN = ‘beijing_03-10000020‘ LIMIT 100 |
    +-----------+-------------------------------------------------------------------------+
    2 rows in set (0.00 sec)

    mysql> 
时间: 2024-10-08 09:46:48

mycat 离散分片 -&gt; 程序指定分区的分片的相关文章

《MyCat 学习笔记》第八篇.数据分片 之 求摸运算分片

1 应用场景 Mycat 自带了多套数据分片的机制,其实根据数值取摸应该是最简单的一种. 优点:数据离散概率较为平均,可以有效的提高应用的数据吞吐. 缺点:比较明显,后期数据运维与迁移比较困难.好在Mycat有对应的解决方案,具体后期验证或可直接参考Mycat权威指南相应章节. 2 环境说明 参考  <MyCat 学习笔记>第六篇.数据分片 之 按月数据分片  http://www.cnblogs.com/kaye0110/p/5160826.html 3 参数配置 3.1 server.xm

mycat 连续分片 -&gt; 按日期(天)分片

1,按日期(天)分片 按日期(天)分片:从开始日期算起,按照天数来分片 例如,从2016-01-01,每10天一个分片 注意事项:需要提前将分片规划好,建好,否则有可能日期超出实际配置分片数 2,添加配置文件 在function.xml里面进行配置: <function name="sharding-by-date" class="org.opencloudb.route.function.PartitionByDate"> <property n

mycat 连续分片 -&amp;gt; 自己定义数字范围分片

1,自己定义数字范围分片 自己定义数字范围分片,提前规划好分片字段某个范围属于哪个分片,比方说将第一个500W的数据分片在第一个节点上面.第二个500W的数据分片在第二个节点上,依次类推 2,加入配置文件 在function.xml里面进行配置: <!-- 对自己定义数字分片规则rang-long-tr04的定义 --> <function name="rang-long-04" class="org.opencloudb.route.function.Au

MySQL分区与分片的差异

要了解分区与分片之间的差异,首先我们需要知道什么是分片与分区.分片:分片Sharding 不是一门新技术,而是一个相对简朴的软件理念.众所周知,MySQL 5 之后才有了数据表分区功能,那么在此之前,很多 mysql 的潜在用户都对 MySQL 的扩展性有所顾虑,而是否具备分区功能就成了衡量一个数据库可扩展性与否的一个关键指标(当然不是唯一指标).数据库扩展性是一个永恒的话题,MySQL 的推广者经常会被问到:如在单一数据库上处理应用数据捉襟见肘而需要进行分区化之类的处理,是如何办到的呢? 答案

给DBGrid动态赋值后,如何用程序指定某行某列为当前焦点?(100分)

给DBGrid动态赋值后,如何用程序指定某行某列为当前焦点?主要是如何指定列,行我能够指定,用DBGrid1.DataSource.DataSet.RecNo := 2;就行了,但是列我不会,请大家教我.谢谢! 让第3行第2列(“用户名称”列)获得焦点: unit Unit1; interface uses Windows, Messages, SysUtils, Variants, Classes, Graphics, Controls, Forms, Dialogs, StdCtrls, G

mongo 3.4分片集群系列之八:分片管理

这个系列大致想跟大家分享以下篇章: 1.mongo 3.4分片集群系列之一:浅谈分片集群 2.mongo 3.4分片集群系列之二:搭建分片集群--哈希分片 3.mongo 3.4分片集群系列之三:搭建分片集群--哈希分片 + 安全 4.mongo 3.4分片集群系列之四:搭建分片集群--哈希分片 + 安全 + 区域 5.mongo 3.4分片集群系列之五:详解平衡器 6.mongo 3.4分片集群系列之六:详解配置数据库 7.mongo 3.4分片集群系列之七:配置数据库管理 8.mongo 3

mycat 离散分片 -&gt; 枚举分片

1,枚举分片 枚举分片:通过在配置文件中配置可能的枚举id,自己配置分片,本规则适用于特定的场景,比如有些业务需要按照省份或区县来做保存,而全国省份区县固定的 2,添加配置文件 在function.xml里面进行配置: <!-- mapFile标识配置文件名称 type默认值为0(0表示Integer,非零表示String) 默认节点的作用:枚举分片时,如果碰到不识别的枚举值,就让它路由到默认节点 --> <function name="hash-int-mc040301&qu

mycat读写分离+垂直切分+水平切分+er分片+全局表 测试

原文http://blog.163.com/[email protected]/blog/static/172718064201683031639683/ 读写分离:利用最基础的mysql主从复制,事务性的查询无法分离出去(因为会导致数据不一致),这样就无法做到真正的读写分离,因为有些场景可能大部分都是事物性的读.解决方法: galera for mysql 强一致性. http://www.blogjava.net/amigoxie/archive/2014/12/24/421788.html

《MyCat 学习笔记》第六篇.数据分片 之 按月数据分片

1 应用场景 Mycat 有很多数据分库规则,接下来几篇就相关觉得常用的规则进行试用与总结. 一般来说,按自然月份来进行数据分片的规则比较适用于商城订单查询,类似最近1周.2周.3个月内的数据.或是报表类应用. 这样的数据放在一个片区内省去了数据合并的时间. 当然按月数据量不要过大就OK.   2 环境说明 Windows 7 本机多数据库 Mysql 5.5.2 3306 端口下挂有4个库 : range_db_4.range_db_5.range_db_6.range_db_7 3310 端