1 环境说明:
本机ip 192.168.8.3
虚拟机1 ip 192.168.8.5
虚拟机2 ip 192.168.8.6
虚拟机采取桥接模式
虚拟机系统为CentOS 2.6.32-279.el6.i686
java版本 1.6.0-24
mysql版本 5.1.61-log
2 虚拟机8.5搭建otter
2.0配置固定ip和修改host
2.0.1 虚拟机8.5 ip为192.168.8.5
vi /etc/syscnfig/network-script/ifcfg-eth0
DEVICE="eth0"
BOOTPROTO="static"
IPADDR="192.168.8.5"
NETMASK="255.255.255.0"
HWADDR="00:0C......."
NM_CONTROLLED="YES"
ONBOOT="yes"
.........
2.0.2 修改host
vi /etc/hosts
192.168.8.5 localhost.localdomain
2.1 关闭防火墙
root用户 service iptables stop
2.2 安装mysql
2.2.1 用户为 root,密码为hello
2.2.2 修改mysql的配置文件
vi /etc/my.cnf
[mysqld]
log-bin=mysql-bin
binlog-frmat=ROW
server-id=1
datadir=/vat/lib/mysql/data
socket=/var/lib/mysql/mysql.sock
user=mysql
symbolic-links=0
default-character-set=utf8
其中,log-bin为打开mysql的binlog二进制日志
binlog-format为列模式
server-id需要保证不同的数据库的id不相同,具有唯一性
datadir为数据存储的文件夹,没有的话需要进行创建
default-character-set=utf8,为设置mysql的默认字符集为utf-8
2.2.2 初始化otter数据库,初始化sql为文件夹中的 otter-manager-schema.sql
2.2.3 搭建双A模式,需要初始化数据库retl,初始化sql为文件夹中的otter-manager-retl.sql。
2.2.4 新建个测试库 test,新建一张测试表test
create table test(id int(11),name varchar(32));
2.3 安装jdk,并配置环境变量,otter推荐使用1.6.5,说是稳定
2.4 安装 aria2(node需要aria2c的支持)
2.4.1 下载压缩包
2.4.2 tar –zxvf aria2-1.17.1.tar.gz
2.4.3 mv aria2-1.17.1 aria2
2.4.4 mv aria2 /usr/local
2.4.5 cd /usr/local/aria2
2.4.6 ./configure
2.4.7 make
2.4.8 make install
2.5 安装node
2.5.1 下载压缩包
2.5.2 mkdir node
2.5.3 mv node.deployer-4.2.11.tar.gz ./node
2.5.4 tar –zxvf node.deployer-4.2.11.tar.gz
2.5.5 mv node.deployer-4.2.11.tar.gz ../
2.5.6 mv ../node /usr/local
2.5.7 cd /usr/local/node
2.5.8 manager安装成功之后,在机器管理/node管理中添加上本机的node之后,可以看到这个node对应的序号
上图中 8.5虚拟机的node序号为1,8.6虚拟机的node序号为2
2.5.9 进入node的conf文件夹
2.5.10 echo 1 > nid
node的日志在 logs/node/node.log
2.6 安装zookeeper
2.6.1 下载压缩包
2.6.2 tar –zxvf zookeeper-3.4.5-cdh4.3.0.tar.gz
2.6.3 mv zookeeper-3.4.5-cdh4.3.0 zookeeper
2.6.4 cd ./zookeeper /usr/local
2.6.5 cd /usr/local/zookeeper/conf
2.6.6 cp zoo_sample.cfg zoo.cfg
2.6.7 vi zoo.cfg
文件中 clientPort为zookeeper的端口号
2.6.8 cd ../bin
zookeeper启动的时候打印日志到bin目录下的zookeeper.out,如果不习惯,可以修改为打印到log日志,修改步骤如下
a 修改conf/log4j.properties
zookeeper.root.logger=INFO, CONSOLE
改成
zookeeper.root.logger=INFO,ROLLINGFILE
b 修改bin/zkEvn.sh文件,
if [ "x${ZOO_LOG4J_PROP}" = "x" ]
then
ZOO_LOG4J_PROP="INFO,CONSOLE"
fi
改成
if [ "x${ZOO_LOG4J_PROP}" = "x" ]
then
ZOO_LOG4J_PROP="INFO,ROLLINGFILE"
fi
c 这样再启动zkSever.sh start的时候 就会生成log4j.properties配置的中设定的zookeeper.log文件。
2.6.9 启动zookeeper
./zkServer.sh start
停止命令为 ./zkServer.sh stop
2.7 安装manager(需要zookeeper的支持)
2.7.1 下载manager.deployer-4.2.11.tar.gz
2.7.2 mkdir manager
2.7.3 mv manager.deployer-4.2.11.tar.gz ./manager
2.7.4 cd ./manager
2.7.5 tar –zxvf manager.deployer-4.2.11.tar.gz
2.7.6 mv manager.deployer-4.2.11.tar.gz ../
2.7.7 cd ../
2.7.8 mv ./manager /usr/local
2.7.9 cd /usr/local/manager/conf
2.7.10 vi otter.properties
a otter.domaniName 可以写本机hostname,但是要修改/etc/hosts,保证hostname映射为本机的固定ip
b otter.port 为manager管理端的端口,即web工程的端口
c otter.database.driver.url为mysql地址和数据库实例,写本机ip而不是127.0.0.1,写127.0.0.1,8.6虚拟机访问不到
d otter.database.driver.username为数据库的用户名
e otter.database.driver.password 为数据库的密码
f otter.communication.manager.port为manager的服务端口
g otter.zookeeper.cluster.default为zookeeper的地址,包括本机ip和端口,这个端口就是zookeeper的conf中的zoo.cfg中的clientPort
2.7.11 启动manager
./bin/startup.sh
如果文件夹中有otter.pid文件,说明manage已经启动或者上次没有关闭,先执行一次 ./stop.sh ,就可以启动起来了
manager的日志在 logs/manager.log
3 虚拟机8.6安装数据库和node
3.0 设置固定ip和修改hosts
3.1 安装mysql
配置/etc/my.cnf
注意server-id号和虚拟机8.5的mysql的server-id不同
3.2 安装node
3.3 配置固定ip
4 操作步骤
4.1 192.168.8.5虚拟机
4.1.1 关闭防火墙
service iptables stop
4.1.2 root开启mysql数据库
可以通过以下操作本地登陆mysql数据库
4.1.3 开启zookeeper
root用户
cd /usr/local/zookeeper/bin
./zkServer.sh start
./zkServer.sh stop
4.1.4 开启manager
cd /usr/local/manager/bin
./startup.sh
可以通过 tail –f ../logs/manager.log 通过日志查看查看开启状态
4.1.5 开启node
cd /usr/local/node/bin
./startip.sh
通过以下操作查看node开启状态
4.2 192.168.8.6 虚拟机
4.2.1 root用户关闭防火墙
service iptables stop
4.2.2 启动mysql数据库
service mysqld start
使用以下命令本地连接数据库查看
mysql -y root -phello
4.2.3 启动node
4.3 otter配置(虚拟机192.168.8.5中进行操作)
4.3.1 登陆 http://192.168.8.5:8080/login.htm
用户名:admin
密码: admin
4.3.2 配置zookeeper管理 (机器管理/zookeeper管理)
zookeeper集群填写的是你启动zookeeper的机器的ip地址,端口号为zookeeper/conf/配置的clientPort
4.3.3 配置node
机器端口 2088
下载端口 9090
配置完成后,会在列表中显示,如果node节点已经正常启动,列表中对应node的状态为已启动
4.3.4 配置数据源(配置管理/数据源配置)
如果数据库url配置对了,用户名密码正确,数据库默认编码为utf8,则能成功验证数据库
4.3.5 配置表
schema name为数据库名称
table name为表名称,如果要做全库的同步,可以用 .* 表示
添加完的表在下图中列表中
4.3.6 配置canal(配置管理/canal配置)
填写 canal名称,数据库地址,账户,密码,位点信息,其中,位点信息格式复制例子,journalName 、position 和 timestamp可以通过对应数据库的执行相应sql取得
select unix_timestamp(now());
show mastr status;
4.3.7 配置同步管理
基于当前日志变更
列记录模式
4.3.8 配置Pipeline(点击配置好的Channel名称进入)
Pipeline名称可以随便取
select机器和load机器选项选择同一个node节点,采取就近原则,8.5的虚拟机向8.6同步数据库,选择8.5节点,8.6虚拟机向8.5同步数据库选择8.6节点
选择Canal,8.5向8.6同步,选择5>>>6(double) Canal;8.6向8.5同步,选择6>>>5(double)
4.3.9 配置关系映射表
源数据表和目标数据表选择,选择的是数据表配置的某个项。
4.3.10 调整设置
双A互备,就是两个单向的同步
其中,一个设置为主站点,另一个设置为非主站点
在高级设置中,一个设置为支持ddl同步,一个设置为不支持ddl同步,原因是一个Channel中只能有一个ddl,要不会冲突
配置完之后,点击Channel管理,选择对应的Channel,点击启动
运行状态变成运行。
配置完成
5 验证效果
5.1 虚拟机8.5中插入一条记录
8.6虚拟机mysql
测试反向8.6向8.5同步
8.5 mysql
5.2 现在验证出效果 :
5.2.1无论channel是否运行,点击推送,都可以同步两个数据库的数据
5.2.2 channel配置的两个数据库,一个数据库停止,channel会挂起,点击推送后恢复正常运行