java_redis3.0.3集群搭建

redis3.0版本之后支持Cluster,具体介绍redis集群我就不多说,了解请看redis中文简介

首先,直接访问redis.io官网,下载redis.tar.gz,现在版本3.0.3,我下面已经在虚拟机启动了两个linux来部署redis。

1. 下载和解包

cd /usr/local/

wget http://download.redis.io/releases/redis-3.0.3.tar.gz

tar -zxvf redis-3.0.3.tar.gz

mv redis-3.0.3  redis

2. 编译安装

cd redis

make && make install

有些人在这里可能会碰到一个错误导致编译不过(如下)

make[1]: Entering directory `/redis/src‘
CC adlist.o
In file included from adlist.c:34:
zmalloc.h:50:31: error: jemalloc/jemalloc.h: No such file or directory
zmalloc.h:55:2: error: #error "Newer version of jemalloc required"
make[1]: *** [adlist.o] Error 1
make[1]: Leaving directory `/redis/src‘
make: *** [all] Error 2

原因是没有安装jemalloc内存分配器,可以安装jemalloc 或 直接 输入make MALLOC=libc  && make install

3. 创建redis节点

我们将在两台Server上创建六个节点,每台3个,3主3从。

1)Server1

cd /usr/local/

mkdir redis_cluster   //创建集群目录

mkdir 7000 7001 7002   //分别代表三个节点    其对应端口 7000 7001 7002

创建7000节点为例,

cd ./7000

cp /usr/local/redis/redis.conf   ./    //拷贝到当前7000目录

vi redis.conf    //编辑配置  主要修改一下几个参数

daemonize    yes                          //redis后台运行
pidfile  /var/run/redis_7000.pid        //pidfile文件对应7000
port  7000                                  //端口7000
cluster-enabled  yes                    //开启集群   把注释#去掉
cluster-config-file  nodes.conf      //集群的配置  配置文件首次启动自动生成
cluster-node-timeout   5000       //请求超时  设置5秒够了
appendonly   on                  //aof日志开启   有需要就开启,它会每次写操作都记录一条日志  (全持久化)#save 900  1#save 300  10                    //注释掉这几个,这是写磁盘的配置,我只是做缓存,不需要写磁盘 (半持久化)#save 60   10000                 //开启的话,在启动节点后,会生成相应的dump.rdb

配置好了,就相应地把这个修改后的配置文件拷贝到 7001  7002目录,注意要修改监听端口port 7001 7002.

接下来,启动服务,进入节点目录

依次执行  redis-server   redis.conf

可以看到生成了appendonly.aof  nodes.conf

ps -ef | grep redis 查看是否启动成功

root 885 0.8 0.2 129452 2620 ? Ssl 20:10 0:21 redis-server *:7000 [cluster]
       root 887 0.8 0.2 129452 2616 ? Ssl 20:10 0:21 redis-server *:7001 [cluster]
       root 893 0.8 0.2 128356 2612 ? Ssl 20:10 0:21 redis-server *:7002 [cluster]

netstat -tnlp | grep redis 可以看到redis监听端口

tcp 0 0 0.0.0.0:7000 0.0.0.0:* LISTEN 885/redis-server *
       tcp 0 0 0.0.0.0:7001 0.0.0.0:* LISTEN 887/redis-server *
       tcp 0 0 0.0.0.0:7002 0.0.0.0:* LISTEN 893/redis-server *
       tcp 0 0 0.0.0.0:17000 0.0.0.0:* LISTEN 885/redis-server *
       tcp 0 0 0.0.0.0:17001 0.0.0.0:* LISTEN 887/redis-server *
       tcp 0 0 0.0.0.0:17002 0.0.0.0:* LISTEN 893/redis-server *

我们除了看到 配置文件中设置的端口700*    还有700*+10000  (1700*), 前者是客户端访问的, 后者是集群内部节点之间访问的.

注意,在多台Server间搭建集群,如果开了防火墙的,需要设置iptables开放上面所有端口.

2) Server2

步骤和Server1一样, 设置端口  7003  7004  7005

 4. 创建集群

   前面已经准备好了搭建集群的redis节点,接下来我们要把这些节点都串连起来搭建集群。官方提供了一个工具:redis-trib.rb  (/usr/local/redis/src/redis-trib.rb) 看后缀就知道这鸟东西不能直接执行,它是用ruby写的一个程序,所以我们还得安装ruby.

yum -y install ruby ruby-devel rubygems rpm-build    //网上不明觉厉,都是这么安装的,就跟着这样玩吧

再用 gem 这个命令来安装 redis接口     gem貌似是ruby的一个工具包  反正没错就是了。

gem install redis     //等一会儿就好了

当然,方便操作,两台Server都要安装。

上面的步骤完事了,接下来运行一下redis-trib.rb

/usr/local/redis/src/redis-trib.rb

Usage: redis-trib <command> <options> <arguments ...>

  reshard         host:port
                  --to <arg>
                  --yes
                  --slots <arg>
                  --from <arg>
  check           host:port
  call            host:port command arg arg .. arg
  set-timeout     host:port milliseconds
  add-node        new_host:new_port existing_host:existing_port
                  --master-id <arg>
                  --slave
  del-node        host:port node_id
  fix             host:port
  import          host:port
                  --from <arg>
  help            (show this help)
  create          host1:port1 ... hostN:portN
                  --replicas <arg>

For check, fix, reshard, del-node, set-timeout you can specify the host and port of any working node in the cluster.

看到这,应该明白了吧, 就是靠上面这些操作 完成redis集群搭建的.

确认所有的节点都启动,接下来使用参数create 创建     (在Server1中来创建)

/usr/local/redis/src/redis-trib.rb  create  --replicas  1   127.0.0.1:7000  127.0.0.1:7001  192.168.1.199:7003  192.168.1.199:7004  192.168.1.199:7005  127.0.0.1:7002

解释下, --replicas  1  表示 自动为每一个master节点分配一个slave节点    上面有6个节点,程序会按照一定规则生成 3个master(主)3个slave(从)

前面已经提醒过的 防火墙一定要开放监听的端口,否则会创建失败。

运行中,提示Can I set the above configuration? (type ‘yes‘ to accept): yes    //输入yes

接下来 提示   Waiting for the cluster to join..........  安装的时候在这里就一直等等等,没反应,傻傻等半天,看这句提示上面一句,Sending Cluster Meet Message to join the Cluster.

这下明白了,我刚开始在一台Server上去配,也是不需要等的,这里还需要跑到Server2上做一些这样的操作。

在Server2, redis-cli -c -p 700*  分别进入redis各节点的客户端命令窗口, 依次输入 cluster meet 192.168.1.197 7000……

回到Server1,已经创建完毕了。

查看一下 /usr/local/redis/src/redis-trib.rb check 127.0.0.1:7000

到这里集群已经初步搭建好了。

5. 测试

1)get 和 set数据

redis-cli -c -p 7000

进入命令窗口,直接 set  hello   howareyou

直接根据hash匹配切换到相应的slot的节点上。

还是要说明一下,redis集群有16383个slot组成,通过分片分布到多个节点上,读写都发生在master节点。

2)假设测试

哥果断先把Server2服务Down掉,(Server2有1个Master, 2个Slave) ,  跑回Server1, 查看一下 发生了什么事,Server1的3个节点全部都是Master,其他几个Server2的不见了

测试一下,依然没有问题,集群依然能继续工作。

原因:  redis集群  通过选举方式进行容错,保证一台Server挂了还能跑,这个选举是全部集群超过半数以上的Master发现其他Master挂了后,会将其他对应的Slave节点升级成Master.

疑问: 要是挂的是Server1怎么办?    哥试了,cluster is down!!    没办法,超过半数挂了那救不了了,整个集群就无法工作了。 要是有三台Server,每台两Master,切记对应的主从节点

不要放在一台Server,别问我为什么自己用脑子想想看,互相交叉配置主从,挂哪台也没事,你要说同时两台crash了,呵呵哒......

3)关于一致性

我还没有这么大胆拿redis来做数据库持久化哥网站数据,只是拿来做cache,官网说的很清楚,Redis Cluster is not able to guarantee strong consistency.

4)项目中实践

项目是java的,选了 Jedis 这个开发包.

时间: 2024-10-22 03:24:12

java_redis3.0.3集群搭建的相关文章

Hadoop-1.0.4集群搭建笔记

这篇文章介绍的是简单的配置Hadoop集群的方法,适合实验和小型项目用,正式运行的集群需要用更正规的方法和更详细的参数配置,不适合使用这篇文章. 安装 JDK 在终端输入 $ java -version 如果有反应,说明已安装过jdk.如果显示的信息里出现了类似OpenJDK的字样,如 java version "1.6.0_20" OpenJDK Runtime Environment (IcedTea6 1.9.2) (6b20-1.9.2-0ubuntu1~10.04.1) Op

Redis 4.0.1集群搭建

Redis 4.0.1集群搭建 一.概述 Redis3.0版本之后支持Cluster. 1.1.redis cluster的现状 目前redis支持的cluster特性: 1):节点自动发现 2):slave->master 选举,集群容错 3):Hot resharding:在线分片 4):进群管理:cluster xxx 5):基于配置(nodes-port.conf)的集群管理 6):ASK 转向/MOVED 转向机制. 1.2.redis cluster 架构 1)redis-clust

redis3.0.3集群搭建

redis3.0版本之后支持Cluster,具体介绍redis集群我就不多说,了解请看redis中文简介. 首先,直接访问redis.io官网,下载redis.tar.gz,现在版本3.0.3,我下面已经在虚拟机启动了两个linux来部署redis. 1. 下载和解包 cd /usr/local/ wget http://download.redis.io/releases/redis-3.0.3.tar.gz tar -zxvf redis-3.0.3.tar.gz mv redis-3.0.

Redis 3.0.2集群搭建以及相关问题汇总

Redis3 正式支持了 cluster,是为了解决构建redis集群时的诸多不便 (1)像操作单个redis一样操作key,不用操心key在哪个节点上(2)在线动态添加.删除redis节点,不用停止服务(3)根据节点性能,动态分配不同数量的key到不同redis节点 (4)每个节点都配有slave,并自动监测和切换 Redis3 cluster 中增加了一个重要概念: hash slot(哈希槽),共有16384个slotkey不是直接放入redis中了,而是放入slot中,再把slot放入r

Redis4.0.10集群搭建

192.168.254.128192.168.254.129192.168.254.127注意事项安裝 GCC 编译工具 不然会有编译不过的问题yum install -y gcc g++ gcc-c++ make升级所有的包,防止出现版本过久不兼容问题yum -y update 环境准备安装ruby: 关闭防火墙 节点之前需要开放指定端口,为了方便,生产不要禁用centos 6.xservice iptables stop # 关闭命令:centos 7.xsystemctl stop fir

CDH 6.0.1 集群搭建 「After install」

集群搭建完成之后其实还有很多配置工作要做,这里我列举一些我去做的一些. 首先是去把 zk 的角色重新分配一下,不知道是不是我在配置的时候遗漏了什么在启动之后就有报警说目前只能检查到一个节点.去将 zk 角色调整到三个节点. 上一张目前的角色图 下面我将分别列出各应用的各个简写代表的意义: Hbase: M: Master | RS: RagionServer HDFS: B: Balance | DN: DataNode | FC: Failover Controller | JN: Journ

Linux rhel7.0 pacemaker集群搭建和配置

一 集群环境介绍 一 Linux 集群发展史 高可用集群的层次结构1 消息/基础架构 corosync 2 成员关系 :监听心跳信息,并进行处理成员关系和计算成员关系的票数等信息3 资源管理 VIP 磁盘 文件系统 CRM (群集资源管理器)等,有些策略引擎(有些资源是放置在同一个节点和其依赖关系) 和资源的分配调度有关 4 资源 : 对特定资源的操作,通过一定的脚本实现pacemaker 群集资源管理器corosync 消息/基础架构 管理工具 crmsh : crm (cluster res

redis 3.0.2 集群搭建

一.环境 ubuntu 14.04 LTS. redis 3.0.2 二.redis cluster 搭建 (单机测试) 1.redis的安装 wget http://download.redis.io/releases/redis-3.0.2.tar.gz tar zxvf redis-3.0.2.tar.gz cd redis-3.0.2/ make make install 2.安装ruby sudo apt-get install ruby sudo gem install redis

Hadoop1.0之集群搭建

VirtualBox虚拟机 下载地址 下载择操作系统对应的基础安装包 下载扩展包(不区分操作系统) http://www.oracle.com/technetwork/cn/server-storage/virtualbox/downloads/index.html 安装基础包 按照提示安装即可 扩展包安装 1 先安装基础包 2 安装扩展包 打开虚拟机 -> 管理 -> 全局设定 -> 扩展 -> 点击右边的加号 -> 选择下载的扩展包文件,按照提示安装即可 VBox安装Ce