Mysql主主同步方案

在企业中,数据库高可用一直是企业的重中之重,中小企业很多都是使用mysql主从方案,一主多从,读写分离等,但是单主存在单点故障,从库切换成主库需要作改动。因此,如果是双主或者多主,就会增加mysql入口,增加高可用。不过多主需要考虑自增长ID问题,这个需要特别设置配置文件,比如双主,可以使用奇偶,总之,主之间设置自增长ID相互不冲突就能完美解决自增长ID冲突问题。

主从同步复制原理

在开始之前,我们先来了解主从同步复制原理。

复制分成三步:

1. master将改变记录到二进制日志(binary log)中(这些记录叫做二进制日志事件,binary log events);

2. slave将master的binary log events拷贝到它的中继日志(relay log);

3. slave重做中继日志中的事件,将改变反映它自己的数据。

下图描述了这一过程:

该过程的第一部分就是master记录二进制日志。在每个事务更新数据完成之前,master在二日志记录这些改变。MySQL将事务串行的写入二进制日志,即使事务中的语句都是交叉执行的。在事件写入二进制日志完成后,master通知存储引擎提交事务。

下一步就是slave将master的binary log拷贝到它自己的中继日志。首先,slave开始一个工作线程——I/O线程。I/O线程在master上打开一个普通的连接,然后开始binlog dump process。Binlog dump process从master的二进制日志中读取事件,如果已经跟上master,它会睡眠并等待master产生新的事件。I/O线程将这些事件写入中继日志。

SQL slave thread处理该过程的最后一步。SQL线程从中继日志读取事件,更新slave的数据,使其与master中的数据一致。只要该线程与I/O线程保持一致,中继日志通常会位于OS的缓存中,所以中继日志的开销很小。

此外,在master中也有一个工作线程:和其它MySQL的连接一样,slave在master中打开一个连接也会使得master开始一个线程。

MySQL5.6以前的版本复制过程有一个很重要的限制——复制在slave上是串行化的,也就是说master上的并行更新操作不能在slave上并行操作。 MySQL5.6版本参数slave-parallel-workers=1 表示启用多线程功能。

MySQL5.6开始,增加了一个新特性,是加入了全局事务 ID (GTID) 来强化数据库的主备一致性,故障恢复,以及容错能力。

官方文档:http://dev.mysql.com/doc/refman/5.6/en/replication-gtids.html

MySQL双主(主主)架构方案思路是:

1.两台mysql都可读写,互为主备,默认只使用一台(masterA)负责数据的写入,另一台(masterB)备用;

2.masterA是masterB的主库,masterB又是masterA的主库,它们互为主从;

3.两台主库之间做高可用,可以采用keepalived等方案(使用VIP对外提供服务);

4.所有提供服务的从服务器与masterB进行主从同步(双主多从);

5.建议采用高可用策略的时候,masterA或masterB均不因宕机恢复后而抢占VIP(非抢占模式);

这样做可以在一定程度上保证主库的高可用,在一台主库down掉之后,可以在极短的时间内切换到另一台主库上(尽可能减少主库宕机对业务造成的影响),减少了主从同步给线上主库带来的压力;

但是也有几个不足的地方:

1.masterB可能会一直处于空闲状态(可以用它当从库,负责部分查询);

2.主库后面提供服务的从库要等masterB先同步完了数据后才能去masterB上去同步数据,这样可能会造成一定程度的同步延时;

架构的简易图如下:

主主环境(这里只介绍2台主的配置方案):

1.CentOS 6.8 64位 2台:masterA(192.168.10.11),masterB(192.168.10.12)

2.官方Mysql5.6版本

搭建过程:

1.安装MySQL服务(建议源码安装)

1.1 yum安装依赖包

yum -y install make gcc gcc-c++ ncurses-devel bison openssl-devel

1.2 添加MySQL所需要的用户和组

groupadd -g 27 mysql

adduser -u 27 -g mysql -s /sbin/nologin mysql

1.3 下载MySQL源码包

mkdir -p /data/packages/src

cd /data/packages/

wget http://distfiles.macports.org/cmake/cmake-3.2.3.tar.gz

wget http://dev.mysql.com/get/Downloads/MySQL-5.6/mysql-5.6.34.tar.gz

1.4 创建mysql数据目录

mkdir -p /usr/local/mysql/data

1.5 解压编译安装cmake、MySQL

cd /data/packages/src

tar -zxvf https://blog.csdn.net/qq_35298894/article/cmake-3.2.3.tar.gz

cd cmake-3.2.3/

https://blog.csdn.net/qq_35298894/article/details/bootstrap

gmake

make install

cd https://blog.csdn.net/qq_35298894/article/

tar xf mysql-5.6.34.tar.gz

cd mysql-5.6.34

cmake . -DCMAKE_INSTALL_PREFIX=/usr/local/mysql -DSYSCONFDIR=/etc \

-DWITH_SSL=bundled -DDEFAULT_CHARSET=utf8 -DDEFAULT_COLLATION=utf8_general_ci \

-DWITH_INNOBASE_STORAGE_ENGINE=1 -DWITH_MYISAM_STORAGE_ENGINE=1 \

-DMYSQL_TCP_PORT=3306 -DMYSQL_UNIX_ADDR=/tmp/mysql.sock \

-DMYSQL_DATADIR=/usr/local/mysql/data

make && make install

1.6 添加开机启动脚本

cp support-files/mysql.server /etc/rc.d/init.d/mysqld

1.7 添加masterA配置文件/etc/my.cnf

[client]

port=3306

socket=/tmp/mysql.sock

?

[mysqld]

basedir=/usr/local/mysql

port=3306

socket=/tmp/mysql.sock

datadir=/usr/local/mysql/data

pid-file=/usr/local/mysql/data/mysql.pid

log-error=/usr/local/mysql/data/mysql.err

?

server-id=1

auto_increment_offset=1

auto_increment_increment=2 #奇数ID

?

log-bin=mysql-bin #打开二进制功能,MASTER主服务器必须打开此项

binlog-format=ROW

binlog-row-p_w_picpath=minimal

log-slave-updates=true

gtid-mode=on

enforce-gtid-consistency=true

master-info-repository=TABLE

relay-log-info-repository=TABLE

sync-master-info=1

slave-parallel-workers=0

sync_binlog=0

binlog-checksum=CRC32

master-verify-checksum=1

slave-sql-verify-checksum=1

binlog-rows-query-log_events=1

#expire_logs_days=5

max_binlog_size=1024M #binlog单文件最大值

?

replicate-ignore-db=mysql #忽略不同步主从的数据库

replicate-ignore-db=information_schema

replicate-ignore-db=performance_schema

replicate-ignore-db=test

replicate-ignore-db=zabbix

?

max_connections=3000

max_connect_errors=30

?

skip-character-set-client-handshake #忽略应用程序想要设置的其他字符集

init-connect=‘SET NAMES utf8‘ #连接时执行的SQL

character-set-server=utf8 #服务端默认字符集

wait_timeout=1800 #请求的最大连接时间

interactive_timeout=1800 #和上一参数同时修改才会生效

sql_mode=NO_ENGINE_SUBSTITUTION,STRICT_TRANS_TABLES #sql模式

max_allowed_packet=10M

bulk_insert_buffer_size=8M

query_cache_type=1

query_cache_size=128M

query_cache_limit=4M

key_buffer_size=256M

read_buffer_size=16K

?

skip-name-resolve

slow_query_log=1

long_query_time=6

slow_query_log_file=slow-query.log

innodb_flush_log_at_trx_commit=2

innodb_log_buffer_size=16M

?

[mysql]

no-auto-rehash

?

[myisamchk]

key_buffer_size=20M

sort_buffer_size=20M

read_buffer=2M

write_buffer=2M

?

[mysqlhotcopy]

interactive-timeout

?

[mysqldump]

quick

max_allowed_packet=16M

?

[mysqld_safe]

1.8 特别参数说明

log-slave-updates=true #将复制事件写入binlog,一台服务器既做主库又做从库此选项必须要开启

#masterA自增长ID

auto_increment_offset=1

auto_increment_increment=2 #奇数ID

#masterB自增加ID

auto_increment_offset=2

auto_increment_increment=2 #偶数ID

1.9 添加masterB配置文件/etc/my.cnf

[client]

port=3306

socket=/tmp/mysql.sock

?

[mysqld]

basedir=/usr/local/mysql

port=3306

socket=/tmp/mysql.sock

datadir=/usr/local/mysql/data

pid-file=/usr/local/mysql/data/mysql.pid

log-error=/usr/local/mysql/data/mysql.err

?

server-id=2

auto_increment_offset=2

auto_increment_increment=2 #偶数ID

?

log-bin=mysql-bin #打开二进制功能,MASTER主服务器必须打开此项

binlog-format=ROW

binlog-row-p_w_picpath=minimal

log-slave-updates=true

gtid-mode=on

enforce-gtid-consistency=true

master-info-repository=TABLE

relay-log-info-repository=TABLE

sync-master-info=1

slave-parallel-workers=0

sync_binlog=0

binlog-checksum=CRC32

master-verify-checksum=1

slave-sql-verify-checksum=1

binlog-rows-query-log_events=1

#expire_logs_days=5

max_binlog_size=1024M #binlog单文件最大值

?

replicate-ignore-db=mysql #忽略不同步主从的数据库

replicate-ignore-db=information_schema

replicate-ignore-db=performance_schema

replicate-ignore-db=test

replicate-ignore-db=zabbix

?

max_connections=3000

max_connect_errors=30

?

skip-character-set-client-handshake #忽略应用程序想要设置的其他字符集

init-connect=‘SET NAMES utf8‘ #连接时执行的SQL

character-set-server=utf8 #服务端默认字符集

wait_timeout=1800 #请求的最大连接时间

interactive_timeout=1800 #和上一参数同时修改才会生效

sql_mode=NO_ENGINE_SUBSTITUTION,STRICT_TRANS_TABLES #sql模式

max_allowed_packet=10M

bulk_insert_buffer_size=8M

query_cache_type=1

query_cache_size=128M

query_cache_limit=4M

key_buffer_size=256M

read_buffer_size=16K

?

skip-name-resolve

slow_query_log=1

long_query_time=6

slow_query_log_file=slow-query.log

innodb_flush_log_at_trx_commit=2

innodb_log_buffer_size=16M

?

[mysql]

no-auto-rehash

?

[myisamchk]

key_buffer_size=20M

sort_buffer_size=20M

read_buffer=2M

write_buffer=2M

?

[mysqlhotcopy]

interactive-timeout

?

[mysqldump]

quick

max_allowed_packet=16M

?

[mysqld_safe]

1.10 初始化MySQL

cd /usr/local/mysql

scripts/mysql_install_db --user=mysql

1.11 为启动脚本赋予可执行权限并启动MySQL

chmod +x /etc/rc.d/init.d/mysqld

/etc/init.d/mysqld start

2. 配置主从同步

2.1 添加主从同步账户

masterA上:

mysql> grant replication slave on *.* to ‘repl‘@‘192.168.10.12‘ identified by ‘123456‘;

mysql> flush privileges;

masterB上:

mysql> grant replication slave on *.* to ‘repl‘@‘192.168.10.11‘ identified by ‘123456‘;

mysql> flush privileges;

2.2 查看主库的状态

masterA上:

mysql> show master status;

?

+------------------+----------+--------------+------------------+-------------------+

?

| File | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set |

?

+------------------+----------+--------------+------------------+-------------------+

?

| mysql-bin.000003 |

120 | | | |

?

+------------------+----------+--------------+------------------+-------------------+

?

1 row in set (0.00 sec)

masterB上

mysql> show master status;

?

+------------------+----------+--------------+------------------+-------------------+

?

| File | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set |

?

+------------------+----------+--------------+------------------+-------------------+

?

| mysql-bin.000003 |

437 | | | |

?

+------------------+----------+--------------+------------------+-------------------+

?

1 row in set (0.00 sec)

2.3 配置同步信息:

masterA上:

mysql> change master to master_host=‘192.168.10.12‘,master_port=3306,master_user=‘repl‘,master_password=‘123456‘,master_log_file=‘mysql-bin.000003‘,master_log_pos=437;

?

mysql> start slave;

?

mysql> show slave status\G;

显示有如下状态则正常:

Slave_IO_Running: Yes

?

Slave_SQL_Running: Yes

masterB上:

#本人是测试环境,可以保证没数据写入,否则需要的步骤是:先masterA锁表-->masterA备份数据-->masterA解锁表 -->masterB导入数据-->masterB设置主从-->查看主从

mysql> change master to master_host=‘192.168.10.11‘,master_port=3306,master_user=‘repl‘,master_password=‘123456‘,master_log_file=‘mysql-bin.000003‘,master_log_pos=120;

?

start slave;

?

mysql> show slave status\G;

显示有如下状态则正常:

Slave_IO_Running: Yes

?

Slave_SQL_Running: Yes

3.测试主从同步

3.1 在masterA上创建一个数据库测试同步效果

mysql> show databases;

?

+--------------------+

?

| Database |

?

+--------------------+

?

| information_schema |

?

| mysql |

?

| performance_schema |

?

| test |

?

+--------------------+

?

4 rows in set (0.00 sec)

?

mysql> create database test01;

?

Query OK,

1 row affected (0.00 sec)

?

mysql> show databases;

?

+--------------------+

?

| Database |

?

+--------------------+

?

| information_schema |

?

| mysql |

?

| performance_schema |

?

| test |

?

| test01 |

?

+--------------------+

?

5 rows in set (0.00 sec)

?

mysql> quit

?

Bye

?

[[email protected] data]#

3.2 到masterB查看是否已经同步创建数据库

mysql> show databases;

?

+--------------------+

?

| Database |

?

+--------------------+

?

| information_schema |

?

| mysql |

?

| performance_schema |

?

| test |

?

| test01 |

?

+--------------------+

?

5 rows in set (0.00 sec)

?

mysql> quit

?

Bye

?

[[email protected] data]#

4. 开启MySQL5.6的GTID功能

masterA和masterB分别执行如下命令:

mysql> stop slave;

?

Query OK,

0 rows affected (0.00 sec)

?

mysql> change master to MASTER_AUTO_POSITION=1;

?

Query OK,

0 rows affected (0.01 sec)

?

mysql> start slave;

?

Query OK,

0 rows affected (0.00 sec)

5. 遇到的问题

一种主从报错折腾了我半天:

Last_IO_Errno: 1236

Last_IO_Error: Got fatal error 1236 from master when reading data from binary log: ‘Could not open log file‘

后面修改主从同步相关 参数,确认原因是my.cnf增加了如下参数:

log-bin=mysql-bin

relay-log=mysql-bin

从正常主主同步时的二进制日志文件显示,有2套二进制日志。因此推断上面2个参数导致不能产生2套二进制文件,故导致二进制文件错乱和丢失。

原文地址:https://www.cnblogs.com/lonuve/p/11015942.html

时间: 2024-10-08 12:26:55

Mysql主主同步方案的相关文章

MySQL双主(主主)架构方案

在企业中,数据库高可用一直是企业的重中之重,中小企业很多都是使用mysql主从方案,一主多从,读写分离等,但是单主存在单点故障,从库切换成主库需要作改动.因此,如果是双主或者多主,就会增加mysql入口,增加高可用.不过多主需要考虑自增长ID问题,这个需要特别设置配置文件,比如双主,可以使用奇偶,总之,主之间设置自增长ID相互不冲突就能完美解决自增长ID冲突问题. 主从同步复制原理 在开始之前,我们先来了解主从同步复制原理. 复制分成三步: 1. master将改变记录到二进制日志(binary

keepalived+mysql双主复制高可用方案

MySQL双主复制,即互为Master-Slave(只有一个Master提供写操作),可以实现数据库服务器的热备,但是一个Master宕机后不能实现动态切换.而Keepalived通过虚拟IP,实现了双主对外的统一接口以及自动检查.失败切换机制.联合使用,可以实现MySQL数据库的高可用方案. 实验环境:OS:centos 6.x x86_64系统MySQL版本: :mysql 5.6.22   64 位A: master :192.168.79.3 3306B: slave :192.168.

趁一切还来得及【六】数据库MySQL读写分离与主主同步

相思相见知何日?此时此夜难为情.                                                      --[唐]李白 第一章 数据库MySQL主从复制读写分离授权 1.1 主从复制读写分离方案简单分析 ①数据库主从复制搭建之后,因为数据是单向的,因此默认规则就是所有的数据(主从相关收据)写入和更新都在主库上进行操作,避免主从同步的时候造成冲突. ②严格上来讲,从库上的非同步的库写入数据,只要和主库没有关系,也是可以写入的(或者作为主库),但是如果主从都想其中

搭建MySQL的主从、半同步、主主复制架构

复制其最终目的是让一台服务器的数据和另外的服务器的数据保持同步,已达到数据冗余或者服务的负载均衡.一台主服务器可以连接多台从服务器,并且从服务器也可以反过来作为主服务器.主从服务器可以位于不同的网络拓扑中,由于mysql的强大复制功能,其复制目标可以是所有的数据库,也可以是某些数据库,甚至是某个数据库中的某些表进行复制. MySQL支持的两种复制方案:基于语句复制,基于行复制基于语句复制基于行复制,这两种复制方式都是通过记录主服务器的二进制日志中任何有可能导致数据库内数据发生改变的SQL语句到中

mysql的主从,主主,半同步,SSL复制

本实验的目的是实现两台主机上的MySQL数据复制,以及基于SSL的复制. *要注意的两点问题所在: 1,版本问题:复制双方的版本最好一致,若不同,从节点的版本必须高于主节点的版本 2,复制起点问题:(1),从0开始,使用于均为新建服务器.(2),中间开始,就需要完全备份主服务上的数据,并将数据恢复至从服务器: 从服务器从备份时主服务器二进制日志所在位置开始复制. 实验环境: node1:MASTER MariaDB 172.16.18.1 node2:SALVE    MariaDB 172.1

mysql高可用架构方案之一(keepalived+主主双活)

Mysql双主双活+keepalived实现高可用 目录 1.前言... 4 2.方案... 4 2.1.环境及软件... 4 2.2.IP规划... 4 2.3.架构图... 4 3.安装设置MYSQL半同步... 5 4.Keepalived实现MYSQL的高可用... 11 1.前言 最近研究了下高可用的东西,这里总结一下mysql主主双活的架构方案,整体上提高服务的高可用性,出现问题也不需要手动切换,提高整体的维护效率.确定改造的话,只需要让他们的程序中使用vip地址就可以,实现起来比较

mysql主从复制、半同步复制、主主复制、及从库升级为主库讲解

一.主从复制结构 binlog dump --- io thread  ---  relay log ---- sql thread 1.总体讲解 主从复制时是异步的 半同步是在主从架构下安装插件来达到半同步的 半同步的优点:保证至少一个节点的数据和主节点的数据一致,缺点影响性能 导致主从不同步的原因是 现在的服务器都是单核多线程或者多核多线程,导致主节点可以同时执行多条读写操作,而记录二进制日志则必须按顺序有先后的记录,从节点在一条一条复制过去,生成中继日志,再执行语句. 多个库复制的话,可以

mysql双主模式方案

在企业中,数据库高可用一直是企业的重中之重,中小企业很多都是使用mysql主从方案,一主多从,读写分离等,但是单主存在单点故障,从库切换成主库需要作改动.因此,如果是双主或者多主,就会增加mysql入口,增加高可用.不过多主需要考虑自增长ID问题,这个需要特别设置配置文件,比如双主,可以使用奇偶,总之,主之间设置自增长ID相互不冲突就能完美解决自增长ID冲突问题. 主从同步复制原理 在开始之前,我们先来了解主从同步复制原理. 复制分成三步: 1. master将改变记录到二进制日志(binary

mysql数据库负载均衡高可用之主从、主主备份,实时同步

一:MySQL Replication 什么是MySQL Replication Replication可以实现将数据从一台数据库服务器(master)复制到一或多台数据库服务器(slave) 默认情况下属于异步复制,无需维持长连接 通过配置,可以复制所有的库或者几个库,甚至库中的一些表 是MySQL内建的,本身自带的 Replication的原理 简单的说就是master将数据库的改变写入二进制日志,slave同步这些二进制日志,并根据这些二进制日志进行数据操作 DML:SQL操作语句,upd