mysql与mycat搭建实现集群与读写分离

数据库性能优化普遍采用集群方式,oracle集群软硬件投入昂贵,今天花了一天时间搭建基于mysql的集群环境。
主要思路

简单说,实现mysql主备复制-->利用mycat实现负载均衡。

比较了常用的读写分离方式,推荐mycat,社区活跃,性能稳定。
测试环境

MYSQL版本:Server version: 5.5.53,到官网可以下载WINDWOS安装包。

注意:确保mysql版本为5.5以后,以前版本主备同步配置方式不同。

linux实现思路类似,修改my.cnf即可。

    A主mysql。192.168.110.1:3306, 用户root,密码root。操作系统:win7 x64,内存:4g

              安装路径:C:\Program Files\MySQL\MySQL Server 5.5\bin

    B备mysql。192.168.110.2:3306, 用户root,密码root。操作系统:win2003 x64,内存:1g

              安装路径:C:\Program Files\MySQL\MySQL Server 5.5\bin

    A主、B备的mysql中创建sync_test数据库

实现mysql主备复制

主要思路:A主mysql开启日志,B备mysql读取操作日志,同步执行。

一般为主备同步,主主同步不推荐使用。
配置A主mysql

1)修改my.ini。需要在log-bin="C:/Program Files/MySQL/MySQL Server 5.5/log/mysql-bin.log"的相关位置创建log目录,以及mysql-bin.log文件。
复制代码

[mysqld]
server-id=1 #主机标示,整数
port=3306
log-bin="C:/Program Files/MySQL/MySQL Server 5.5/log/mysql-bin.log"  #确保此文件可写
read-only=0   #主机,读写都可以
binlog-do-db=sync_test   #需要备份数据库,多个写多行
binlog-ignore-db=mysql #不需要备份的数据库,多个写多行

复制代码

2)允许MYSQL远程访问
复制代码

#登录mysql console
进入%home%/bin,执行mysql -uroot -proot
#授权。允许root用户,从192.168.110.*的IP范围 远程访问A主mysql
mysql>GRANT ALL PRIVILEGES ON *.* TO ‘root‘@‘192.168.110.*‘ IDENTIFIED BY ‘root‘ WITH GRANT OPTION;
#生效。该操作很重要!
mysql>FLUSH PRIVILEGES;

复制代码

3)重启A主mysql数据库

进入%home%/bin,执行mysql -uroot -proot
mysql>net stop mysql;
mysql>net start mysql;

4)查看主mysql日志状态
复制代码

mysql> show master status\G;
*************************** 1. row ***************************
            File: mysql-bin.000003
        Position: 107
    Binlog_Do_DB: sync_test
Binlog_Ignore_DB: mysql
1 row in set (0.00 sec)

ERROR:
No query specified

复制代码
配置B备mysql

1)修改my.ini。需要在log-bin="C:/Program Files/MySQL/MySQL Server 5.5/log/mysql-bin.log"的相关位置创建log目录,以及mysql-bin.log文件。
复制代码

[mysqld]
# add for sycn test
server-id=2                       #从机标识
log-bin="C:/Program Files/MySQL/MySQL Server 5.5/log/mysql-bin.log" #确保此文件可写
#master-host="192.168.110.1" #主机Ip
#master-user=root                  #数据库访问用户名
#master-pass=root                     #数据库访问密码
#master-port=3306          #主机端口
#master-connect-retry=60     #如果从服务器发现主服务器断掉,重新连接的时间差(秒)
replicate-do-db=sync_test     #只复制某个库
replicate-ignore-db=mysql     #不复制某个库

复制代码

2)重启B备mysql数据库

进入%home%/bin,执行mysql -uroot -proot
mysql>net stop mysql;
mysql>net start mysql;

3)配置B备数据库的数据来源,核实高亮处的状态是否正常。
复制代码

mysql>change master to master_host=‘192.168.110.1‘,master_port=‘3306‘,master_user=‘root‘,master_password=‘root‘;
mysql>slave start;
mysql>show slave status\G;
*************************** 1. row ***************************
               Slave_IO_State: Waiting for master to send even
                  Master_Host: 192.168.110.1
                  Master_User: root
                  Master_Port: 3306
                Connect_Retry: 60
              Master_Log_File: mysql-bin.000003
          Read_Master_Log_Pos: 107
               Relay_Log_File: wjt-1c698d8a032-relay-bin.00001
                Relay_Log_Pos: 253
        Relay_Master_Log_File: mysql-bin.000003
             Slave_IO_Running: Yes
            Slave_SQL_Running: Yes
              Replicate_Do_DB: sync_test
          Replicate_Ignore_DB: mysql
           Replicate_Do_Table:
       Replicate_Ignore_Table:
      Replicate_Wild_Do_Table:
  Replicate_Wild_Ignore_Table:
                   Last_Errno: 0
                   Last_Error:
                 Skip_Counter: 0
          Exec_Master_Log_Pos: 107
              Relay_Log_Space: 565
              Until_Condition: None
               Until_Log_File:
                Until_Log_Pos: 0
           Master_SSL_Allowed: No
           Master_SSL_CA_File:
           Master_SSL_CA_Path:
              Master_SSL_Cert:
            Master_SSL_Cipher:
               Master_SSL_Key:
        Seconds_Behind_Master: 0
Master_SSL_Verify_Server_Cert: No
                Last_IO_Errno: 0
                Last_IO_Error:
               Last_SQL_Errno: 0
               Last_SQL_Error:
  Replicate_Ignore_Server_Ids:
             Master_Server_Id: 1
1 row in set (0.00 sec)

ERROR:
No query specified

复制代码
验证同步配置结果

    A主mysql:使用navicat工具,在sync_test库中创建sync_table表,并添加一些数据
    B备mysql:使用navicat工具,查看sync_test库,可以看到sync_table表和数据已被同步

实现读写分离

主要思路:使用mycat中间件,转发sql指令到后端mysql节点。mycat不负责数据库同步。
安装mycat

mycat是什么?可以认为它是一个数据库访问中间件,但更像f5、ngnix等产品,具备访问路由、多表分表分片操作等功能。总之很强大。

    下载:http://www.mycat.io/ ,本文使用的是:1.6-RELEASE
    解压Mycat-server-1.6-RELEASE-20161012170031-win.tar,到D:\dev-bin\mycat目录
    确保java环境为jdk1.7以上,否则mycat将不支持

安装完毕
配置mycat

1)server.xml。配置访问用户及权限。修改高亮处信息,其中admin、user为访问mycat的用户,TESTDB为mycat虚拟的数据库,供上层应用访问。
复制代码

<user name="admin">
        <property name="password">admin</property>
        <property name="schemas">TESTDB</property>
        <!-- 表级 DML 权限设置 -->
        <!--
        <privileges check="false">
            <schema name="TESTDB" dml="0110" >
                <table name="tb01" dml="0000"></table>
                <table name="tb02" dml="1111"></table>
            </schema>
        </privileges>
         -->
    </user>
    <user name="user">
        <property name="password">user</property>
        <property name="schemas">TESTDB</property>
        <property name="readOnly">true</property>
    </user>

复制代码

2)schema.xml。这部分不太好理解,精简了一下,主要分schema、dataNode、dataHost三个主要配置。

<scheme>节点定义了mycat的虚拟数据库为TESTDB, balance="1":write操作路由到A机,读操作路由到B。
复制代码

<?xml version="1.0"?>
<!DOCTYPE mycat:schema SYSTEM "schema.dtd">
<mycat:schema xmlns:mycat="http://io.mycat/">
    <schema name="TESTDB" checkSQLschema="false" sqlMaxLimit="100" dataNode="dn1">
        <!-- 这里不配置,代表所有的表分片到dn1节点-->
    </schema>
    <dataNode name="dn1" dataHost="localhost1" database="sync_test" />
    <dataHost name="localhost1" maxCon="1000" minCon="10" balance="1"
              writeType="0" dbType="mysql" dbDriver="native" switchType="1"  slaveThreshold="100">
        <heartbeat>select user()</heartbeat>
        <!-- can have multi write hosts -->
        <writeHost host="hostM1" url="192.168.110.1:3306" user="root"  password="root">
            <!-- can have multi read hosts -->
            <readHost host="hostS2" url="192.168.110.2:3306" user="root" password="root" />
        </writeHost>
    </dataHost>
</mycat:schema>

复制代码
启动mycat

1)启动mycat

D:\dev-bin\mycat\bin>startup_nowrap.bat

后台信息如下:
复制代码

D:\dev-bin\mycat\bin>startup_nowrap.bat
D:\dev-bin\mycat\bin>REM check JAVA_HOME & java
D:\dev-bin\mycat\bin>set "JAVA_CMD=C:\Program Files (x86)\Java\jdk1.7.0_13/bin/java"
D:\dev-bin\mycat\bin>if "C:\Program Files (x86)\Java\jdk1.7.0_13" == "" goto noJavaHome
D:\dev-bin\mycat\bin>if exist "C:\Program Files (x86)\Java\jdk1.7.0_13\bin\java.exe" goto mainEntry
D:\dev-bin\mycat\bin>REM set HOME_DIR
D:\dev-bin\mycat\bin>set "CURR_DIR=D:\dev-bin\mycat\bin"
D:\dev-bin\mycat\bin>cd ..
D:\dev-bin\mycat>set "MYCAT_HOME=D:\dev-bin\mycat"
D:\dev-bin\mycat>cd D:\dev-bin\mycat\bin
#如果启动失败,请修改D:\dev-bin\mycat\bin\startup_nowrap.bat文件中的以下参数。默认占用内存为2G
D:\dev-bin\mycat\bin>"C:\Program Files (x86)\Java\jdk1.7.0_13/bin/java" -server -Xms512m -Xmx512m -XX:MaxPermSize=64M  -XX:+AggressiveOpts -XX:MaxDirectMemorySize=768m -DMYCAT_HOME=D:p "..\conf;..\lib\*" io.mycat.MycatStartup
MyCAT Server startup successfully. see logs in logs/mycat.log   #启动成功将看到如下信息。

复制代码

注意:如日志中出现192.168.110.2 not connected 等信息,请允许B备mysql远程访问。
复制代码

#登录mysql console
进入%home%/bin,执行mysql -uroot -proot
#授权。允许root用户,从192.168.110.*的IP范围 远程访问Bmysql
mysql>GRANT ALL PRIVILEGES ON *.* TO ‘root‘@‘192.168.110.*‘ IDENTIFIED BY ‘root‘ WITH GRANT OPTION;
#生效,该操作很重要!
mysql>FLUSH PRIVILEGES;

复制代码
测试读写分离
验证是否同步

    使用navicat连接mycat,操作方式和连接物理mysql库一致,用户admin,密码admin,端口8066
    在TESTDB虚拟库中,创建新表test2,增加一些数据
    查看A节点、B节点数据已同步

关闭B备mysql的同步,验证读写分离
复制代码

mysql> slave stop;
Query OK, 0 rows affected (0.00 sec)

mysql> show slave status\G;
*************************** 1. row ***************************
               Slave_IO_State:
                  Master_Host: 192.168.110.1
                  Master_User: root
                  Master_Port: 3306
                Connect_Retry: 60
              Master_Log_File: mysql-bin.000003
          Read_Master_Log_Pos: 478
               Relay_Log_File: wjt-1c698d8a032-relay-bin.00001
                Relay_Log_Pos: 624
        Relay_Master_Log_File: mysql-bin.000003
             Slave_IO_Running: No
            Slave_SQL_Running: No
              Replicate_Do_DB: sync_test
          Replicate_Ignore_DB: mysql
           Replicate_Do_Table:
       Replicate_Ignore_Table:
      Replicate_Wild_Do_Table:
  Replicate_Wild_Ignore_Table:
                   Last_Errno: 0
                   Last_Error:
                 Skip_Counter: 0
          Exec_Master_Log_Pos: 478
              Relay_Log_Space: 936
              Until_Condition: None
               Until_Log_File:
                Until_Log_Pos: 0
           Master_SSL_Allowed: No
           Master_SSL_CA_File:
           Master_SSL_CA_Path:
              Master_SSL_Cert:
            Master_SSL_Cipher:
               Master_SSL_Key:
        Seconds_Behind_Master: NULL
Master_SSL_Verify_Server_Cert: No
                Last_IO_Errno: 0
                Last_IO_Error:
               Last_SQL_Errno: 0
               Last_SQL_Error:
  Replicate_Ignore_Server_Ids:
             Master_Server_Id: 1
1 row in set (0.00 sec)

ERROR:
No query specified

复制代码

3)使用navicat连接mycat,操作方式和连接物理mysql库一致,用户admin,密码admin,端口8066

    连接成功后,将看到TESTDB数据库和test数据表
    在test表中添加一些数据,保存
    执行select * from test查看test操作,将看到数据未更新

原因:mycat将查询sq路由到B,因此读取的结果集不一致。
时间: 2024-12-28 00:38:06

mysql与mycat搭建实现集群与读写分离的相关文章

Mysql数据库优化一:集群(读写分离)之主从服务器的安装与配置

Mysql数据库的集群(读写分离),说白了就是将读操作和写操作分开在不同的服务器上实现,以达到提高效率的目的. 大致原理如下: 数据库中的所有操作都是有日志记录的(前提是要打开这个日志记录功能) 1.master,主服务器(进行写操作的服务器)的所有记录都保存到二进制日志(binary log)中,这些记录叫做二进制日志事件(binary log events): 2.slave,从服务器(进行读操作的服务器)将mater的binart log拷贝到自己的中继日志(relay log),然后根据

想玩集群?读写分离?你要先懂这个!

答案是:Mysql主从同步,集群,读写分离,都会涉及数据的数据同步,所以想玩哪些东西,我们还是要把这个数据同步的基础学会之后我们才能玩其他的,今天呢思梦PHP就给大家带来了这个小案例,亲测,没毛病! 以下案例是测试案例,当然你线上服务器也是一样的!首先你要保证的你的操作系统的统一,数据库的版本的统一你才能开启数据同步的大门!下面就上步骤了! 1:首先你需要一个虚拟机,然后上面配置两个系统,当然你的mysql的版本要保持一致 2:你在你主的mysql里面创建一个你要同步的mysql数据库 3:Li

docker应用-6(mysql+mycat 搭建数据库集群)

上一节,通过使用overlay网络,搭建了跨主机的docker容器集群.下面,在这个跨主机的docker容器集群环境下,搭建mysql 数据库集群. mysql主从自动备份和自动切换 从数据安全性考虑,对数据库的数据进行及时备份非常重要.mysql就提供了主从备份的机制,从数据库会非常及时的将主数据库的操作更新到从库上,从而当主数据库down掉之后,数据不会丢失:同时,也可以通过keepalived等程序来实现主库down掉之后,迅速将数据访问服务切换到从库,从而尽可能维护数据库服务的不间断运行

Atlas+mysql主主集群实现读写分离

前言 目前线上系统数据库采用的是主主架构.其中一台主仅在故障时切换使用,(仅单台服务器对外提供服务,当一台出现问题,切换至另一台),该结构很难支撑较大并发,另外双主中的另外一台机在非故障时没得到有效利用. 结合以上情况,拟采用数据库中间件提供读写分离功能(一主读写,一主读).既可以提高读并发能力,又可以充分利用数据库服务器,后期可继续增加主主集群的从服务器扩充读并发性能.如下为具体架构图: Atlas官方链接: https://github.com/Qihoo360/Atlas/blob/mas

Mycat高可用集群搭建

HaProxy+Keepalived+Mycat高可用集群配置 部署图: 集群部署图理解: 1.keepalived和haproxy必须装在同一台机器上(如192.168.46.161机器上,keepalived和haproxy都要安装),keepalived负责为该服务器抢占vip(虚拟ip),抢占到vip后,对该主机的访问可以通过原来的ip(192.168.46.161)访问,也可以直接通过vip(192.168.46.180)访问. 2.192.168.46.162上的keepalived

搭建Artifactory集群

搭建Artifactory集群 在阿里云上搭建Artifactory集群. Artifactory许可证 官方正版license,3个 License 25900美元(16.7万人民币)一年,贵的离谱.本文以实验学习为主使用最新破解版4.7.4,破解也非常容易就不赘述了.商业用途,请使用正版. 所需硬件 Artifactory集群需要以下硬件设备: 支持粘性会话的均衡负载(HAProxy/Nginx等). NFS共享文件夹. 数据库(MySQL等). 网络 集群中所有的节点最好处于同一局域网内,

MySQL DBA及Linux企业集群实战工程师

MySQL DBA及Linux企业集群实战工程师 2015,来一场随时随地的学习之旅 开启我赢职场MySQL学习之旅 不能错过的我赢之旅 任性就是想问就问 谁是你的群聊小伙伴 学习点滴我主宰 名师在线答与问 职业入门--数据库基础知识及安装MySQL MySQL课程介绍 讲师访谈 深入了解什么是数据库 MySQL从万千数据库中脱颖而出 选择学习哪个版本的MySQL 搭建学习MySQL的实验环境 提前熟悉一下MySQL环境 Linux下基于官方YUM源安装MySQL Linux下基于官方源码包包安

Linux网络服务--LAMP+Nginx+Squid搭建web集群

一.         项目名称         LAMP+Nginx+Squid搭建web集群环境 二.         项目拓扑 三.         项目描述 3.1 项目环境 某部队为了满足信息化政治工作建设需要,用以丰富官兵日常生活内容,活化教育形式,更好的建设部队人文环境,准备架设部队内部的网站服务器,并申请使用军内公网IP:1.1.1.1 基于以上情况为该部提出以下解决方案.   3.2 实施方案 3.2.1  服务器操作系统与软件版本选择 操作系统选择RedHat企业版5.10:

搭建MySQL-Cluster集群架构

实验需求:部署MySQL集群,减少数据库单点故障. 实验方案:准备5台服务器,mgmd(192.168.100.1)作为管理节点,sqlA(192.168.100.2)和sqlB(192.168.100.3)作为SQL节点,ndbA(192.168.100.4)和ndbB(192.168.100.5)作为数据节点,这5个节点构成MySQL Cluster体系 实施过程: 一.公共配置 1.所有节点上安装MySQL集群软件 1.1所有节点卸载冲突包 官方提供的MySQL-Cluster相关软件包已