mysql主从同步分库分表同步

一、mysql数据库的安装

分别在master 和slave上源码安装mysql数据库

1.1 安装相关包
1.1.1 cmake软件
cd /home/oldboy/tools/
tar xf cmake-2.8.8.tar.gz
cd cmake-2.8.8
./configure
#CMake has bootstrapped.  Now run gmake.
gmake
gmake install
cd ../

1.1.2 依赖包
yum install ncurses-devel -y

1.2 开始安装mysql
1.2.1 创建用户和组
groupadd mysql
useradd mysql -s /sbin/nologin -M -g mysql

1.2.2 解压编译MySQL
tar zxf mysql-5.5.32.tar.gz
cd mysql-5.5.32
cmake . -DCMAKE_INSTALL_PREFIX=/application/mysql/mysql-5.5.40 \
-DMYSQL_DATADIR=/application/mysql/mysql-5.5.40/data \
-DMYSQL_UNIX_ADDR=/application/mysql/mysql-5.5.40/tmp/mysql.sock \
-DDEFAULT_CHARSET=utf8 \
-DDEFAULT_COLLATION=utf8_general_ci \
-DEXTRA_CHARSETS=gbk,gb2312,utf8,ascii \
-DENABLED_LOCAL_INFILE=ON \
-DWITH_INNOBASE_STORAGE_ENGINE=1 \
-DWITH_FEDERATED_STORAGE_ENGINE=1 \
-DWITH_BLACKHOLE_STORAGE_ENGINE=1 \
-DWITHOUT_EXAMPLE_STORAGE_ENGINE=1 \
-DWITHOUT_PARTITION_STORAGE_ENGINE=1 \
-DWITH_FAST_MUTEXES=1 \
-DWITH_ZLIB=bundled \
-DENABLED_LOCAL_INFILE=1 \
-DWITH_READLINE=1 \
-DWITH_EMBEDDED_SERVER=1 \
-DWITH_DEBUG=0

#-- Build files have been written to: /home/oldboy/tools/mysql-5.5.32
提示,编译时可配置的选项很多,具体可参考结尾附录或官方文档:
make
#[100%] Built target my_safe_process
make install
ln -s /application/mysql-5.5.32/ /application/mysql
如果上述操作未出现错误,则MySQL5.5.32软件cmake方式的安装就算成功了。

1.3安装数据库成功后

1.3.1 修改mysql安装目录的权限,全部修改为mysql

chown -R mysql:mysql /application/mysql

1.3.2 初始化数据库

cd /application/mysql/scripts

[[email protected] scripts]# ./mysql_install_db --basedir=/application/mysql --datadir=/data/mysql --user=mysql

1.3.3 替换/etc/下的配置文件和数据库的启动文件

/application/mysql/support-files

cp -r my-small.cnf  /etc/my.cnf

cp -r mysql.server  /etc/init.d/mysql

1.4启动数据库

/etc/init.d/mysql  start

/etc/init.d/mysql  stop

/etc/init.d/mysql  restart

二、mysql数据库分库分表的同步

2.1master配置文件

log-bin=mysql-bin

binlog_format=row

server-id       = 15

binlog-do-db=sales

/etc/init.d/mysql  restart(重启数据库)

2.2slave配置文件

server-id       = 25

relay-log=relay-bin
read-only = 1
replicate-do-db = sales

replicate-do-db =user_info

replicate-ignore-db = information_schema
replicate-ignore-db = mysql
replicate-ignore-db = user_info

replicate-wild-do-table =sales.story    // 所要同步的数据库的单个表

/etc/init.d/mysql  restart(重启数据库)

2.3在master上创建同步的用户
 grant replication client,replication slave on *.* to [email protected]‘172.27.1.%‘ identified by ‘password‘;

mysql> show master status\G;
*************************** 1. row ***************************
             File: mysql-bin.000003
         Position: 150
     Binlog_Do_DB: sales,user_info
 Binlog_Ignore_DB:
Executed_Gtid_Set:
1 row in set (0.00 sec)

ERROR:
No query specified

2.4在slave上执行如下语句,同步到master

change master to master_host=‘172.27.1.12‘(主库IP地址),master_user=‘rep‘,master_password=‘financial‘,master_log_file=‘mysql-bin.000003‘,master_log_pos=150;

start slave(启动从库)

stop slave(停止从库)

reset slave(重置从库)

启动数据库后查看slave的状态如下:

mysql> show slave status\G;
*************************** 1. row ***************************
               Slave_IO_State: Waiting for master to send event
                  Master_Host: 172.27.1.12
                  Master_User: rep
                  Master_Port: 3306
                Connect_Retry: 60
              Master_Log_File: mysql-bin.000003
          Read_Master_Log_Pos: 150
               Relay_Log_File: relay-bin.000002
                Relay_Log_Pos: 269
        Relay_Master_Log_File: mysql-bin.001603
             Slave_IO_Running: Yes
            Slave_SQL_Running: Yes
              Replicate_Do_DB: sales
          Replicate_Ignore_DB: information_schema,mysql,user_info
           Replicate_Do_Table:
       Replicate_Ignore_Table:
      Replicate_Wild_Do_Table: sales.story
  Replicate_Wild_Ignore_Table:
                   Last_Errno: 0
                   Last_Error:
                 Skip_Counter: 0
          Exec_Master_Log_Pos: 150
              Relay_Log_Space: 419
              Until_Condition: None
               Until_Log_File:
                Until_Log_Pos: 0
           Master_SSL_Allowed: No
           Master_SSL_CA_File:
           Master_SSL_CA_Path:
              Master_SSL_Cert:
            Master_SSL_Cipher:
               Master_SSL_Key:
        Seconds_Behind_Master: 0
Master_SSL_Verify_Server_Cert: No
                Last_IO_Errno: 0
                Last_IO_Error:
               Last_SQL_Errno: 0
               Last_SQL_Error:
  Replicate_Ignore_Server_Ids:
             Master_Server_Id: 15
1 row in set (0.00 sec)

ERROR:
No query specified

上述表示数据库master and slave 已配置好,可以进行同库单个表的配置

测试:

1.分别在master和slave创建数据库sales(row模式下需要手动创建数据库)。

2.use sales库下,在master上创建表

CREATE TABLE user_info (
    PersonID int,
    LastName varchar(255),
    FirstName varchar(255),
    Address varchar(255),
    City varchar(255) 
);

3.在master上创建表

CREATE TABLE story (
    PersonID int,
    LastName varchar(255),
    FirstName varchar(255),
    Address varchar(255),
    City varchar(255) 
);

查看slave同步状态:

a. story表同步成功

b. user_info表同步不成功

则mysql数据库单库,单表同步成功。

如果只是单库同步,则在slave的配置文件中去掉:

replicate-wild-do-table =sales.story    // 所要同步的数据库的单个表

在单表同步中当出现(高版本5.6.2及以上)master----(低版本5.6.2以下)slave

启动slave后,会报如下的错误:

[ERROR] Slave I/O: Got fatal error 1236 from master when reading data from binary log: ‘Slave can not handle replication events with the checksum that master is configured to log;

后查询资料后发现:在5.6.2中,新增了一个参数binlog_checksum,而且在5.6.6及以后的版本中,该参数的值由NONE改为了CRC32,master为5.6.30的情况下,自然有该选项参数(为了验证binlog events的正确,指定通过CRC32算法来避免出现events corrupt,所以这个选项参数出现了。),并且其值为CRC32,但slave为5.5.32,此时的该选项参数是不存在的。

【解决方案】:
直接在master上执行,即可:

  1. mysql> SET GLOBAL binlog_checksum=none;

当然也要加到配置文件的[mysqld]中,避免重启失效:

  1. [mysqld]
  2. binlog-checksum = none

注意:在该参数值还未修改之前的binlog,似乎也是无法被io thread所接收的,故之前的binlog可能需要手动执行来补数据了。
在修改之后的binlog中的events,则可以被正确的传输到slave上。

时间: 2024-10-02 00:21:37

mysql主从同步分库分表同步的相关文章

Mysql中的分库分表

mysql中的分库分表分库:减少并发问题分表:降低了分布式事务分表1.垂直分表把其中的不常用的基础信息提取出来,放到一个表中通过id进行关联.降低表的大小来控制性能,但是这种方式没有解决高数据量带来的性能损耗.优点1.拆分后业务清楚,达到专库专用.2.可以实现热数据和冷数据的分离,将不经常变化的数据和变动较大的数据分散到不同的库/表里面.3.便于维护.缺点1.不能解决数据量大带来的性能损耗,读写的压力依旧很大.2.不同的业务不能夸库关联,只能通过业务关联.2.水平分表以某个字段按照一定的规则将一

MySQL纯透明的分库分表技术还没有

MySQL纯透明的分库分表技术还没有 种树人./oneproxy --proxy-address=:3307 --admin-username=admin --admin-password=D033E22AE348AEB5660FC2140AEC35850C4DA997 --proxy-master-addresses=172.16.132.87:[email protected] --proxy-master-addresses=172.16.3.92:[email protected] --

MYSQL数据切分(分库分表),读写分离和主从复制

参考1 参考2 对于一个大型的互联网应用,每天几十亿的PV无疑对数据库造成了相当高的负载.对于系统的稳定性和扩展性造成了极大的问题.通过数据切分来提高网站性能,横向扩展数据层已经成为架构研发人员首选的方式. 数据切分:可以降低单台机器的负载,同时最大限度的降低了宕机造成的损失: 负载均衡策略:可以降低单台机器的访问负载,降低宕机的可能性: 集群方案:解决了数据库宕机带来的单点数据库不能访问的问题: 读写分离策略:最大限度了提高了应用中读取数据的速度和并发量: 这里主要谈及数据切分和其相关数据库优

MySQL如何实现分库分表,如何提高查询效率

本人没有做过电商平台,但了解其中的道道,今天闲来无事,说说其中的道道.下边我要开始表演了. 在大型电商网站中,随着业务的增多,数据库中的数据量也是与日俱增,这时候就要将数据库进行分库分表了. 1.如何分库分表? 两种解决方案:垂直拆分.水平拆分 垂直拆分:根据业务进行拆分,比如可以将一张表中的多个字段拆成两张表,一张是不经常更改的,一张是经常改的. 水平拆分:即根据表来进行分割:比如user表可以拆分为user0,.user1.user2.user3.user4等 2.分库分表之后如何实现联合查

MyCat:对MySQL数据库进行分库分表

本篇前提: mycat配置正确,且能正常启动. 1.schema.xml <table>标签: dataNode -- 分片节点指定(取值:dataNode中的name属性值)rule ------ 分片规则选择(取值:rule标签中的name属性值) 1 2 3 [[email protected] conf]# vim schema.xml 1 <?xml version="1.0"?> 2 <!DOCTYPE mycat:schema SYSTEM

Shell脚步之MySql分库分表备份

前言 数据备份的重要性已经不用过多强调了.这篇文章我们就以MySQL数据进行演示如何通过Shell脚步进行MySQL数据库的分库分表备份. 要求 Linux命令要求比较熟悉,Shell脚步语法规则也要熟悉,MySQL的数据库备份命令要比较熟悉.下面也会提到,如果有不懂得希望可以自行查阅资料学习. 命令窗口查询MySQL数据库列表 上面我们就通过Linux命令窗口查询到了MySQL的数据库列表 去除MySQL自带数据库获取目标业务数据库列表,查看表列表 备注:通过过滤掉MySQL自带数据库,那么就

数据库分库分表中间件 Sharding-JDBC 源码分析 —— 分布式主键

关注**微信公众号:[芋道源码]**有福利: RocketMQ / MyCAT / Sharding-JDBC 所有源码分析文章列表 RocketMQ / MyCAT / Sharding-JDBC 中文注释源码 GitHub 地址 您对于源码的疑问每条留言都将得到认真回复.甚至不知道如何读源码也可以请教噢. 新的源码解析文章实时收到通知.每周更新一篇左右. 认真的源码交流微信群. 本文主要基于 Sharding-JDBC 1.5.0 正式版 1. 概述 2.KeyGenerator 2.1 D

MySQL主从(MySQL proxy Lua读写分离设置,一主多从同步配置,分库分表方案)

Mysql Proxy Lua读写分离设置 一.读写分离说明 读写分离(Read/Write Splitting),基本的原理是让主数据库处理事务性增.改.删操作(INSERT.UPDATE.DELETE),而从数据库处理SELECT查询操作.数据库复制被用来把事务性操作导致的变更同步到集群中的从数据库. 1.设置说明 Master服务器: 192.168.41.196 Slave服务器: 192.168.41.197 Proxy服务器: 192.168.41.203 2.安装Mysql Pro

使用Mycat实现MySQL的分库分表、读写分离、主从切换

Mycat及MySQL实例部署情况:Mycat:IP:10.20.8.57,Port:3310/3311MySQL :db1-M1,IP:10.20.8.126,Port:3306db1-M2,IP:10.20.8.126,Port:3307db2-M1,IP:10.25.80.7,Port:3307架构图如下: 配置Mycatserver.xml: <!DOCTYPE mycat:server SYSTEM "server.dtd"> <mycat:server x