用Docker构建分布式Redis集群

【编者的话】本文介绍了如何使用Docker搭建Redis集群,很多读者都在问Docker能带来哪些实质性的好处,我想本文就是一个很好的例子。不使用Docker你也可以搭建Redis集群,那使用Docker后会有怎么样的优势了?我想可以用两个词总结:快速和复用。

海量技术文章:http://tieba.yunxunmi.com/

云搜 http://so.yunxunmi.com/ 让搜索更简单 采用html5完全支持手机和PC

我们经常会遇到这样一个问题:当我们想进行一个完整的测试的时候,往往缺少硬件或者其它资源。为了满足需求,我可能需要三台服务,或者说三个虚拟机。但是我发现我们没有时间来创建它们,并且如果要物理机的话我们也没有那么多资源。这也是为什么我对Docker如此感兴趣,因为它可以解决我的问题。

我想在Ubuntu上创建三个运行RedisDocker容器,并把它们连接起来,然后我就可以自由的在测试和开发过程中水平的扩展了, 接下来我就给你们展示我是怎么做的,以及这样做的优势。

1. 下载和配置基础镜像

我使用的是非常优秀的phusion镜像作为基础镜像,它增加了很多Docker忽略的特性, 比如按序启动服务等等, 关于这个镜像的更多信息,可以点击这里了解。

首先,让我们使用Docker来pullphusion镜像(译者注:建议使用高版本的Docker下载,低版本会有问题)。

[email protected]:/home/sam# docker pull phusion/baseimage

下载完成之后, 你可以通过docker images命令看到最新下载的镜像。

[email protected]:/home/sam# docker imagesREPOSITORY TAG IMAGE ID CREATED VIRTUAL SIZEphusion/baseimage 0.9.15 cf39b476aeec 3 months ago 289.4 MBphusion/baseimage latest cf39b476aeec 3 months ago 289.4 MB

这个镜像非常好用,你可以在容器启动的时候指定特定服务的启动顺序, 在这里我想给这个镜像加一个SSH密码登录的功能,而不是使用SSH key。因为是在本地运行,所以不用太担心安全的问题。我们需要创建一个phusion的实例, 然后通过SSH key登录, 并且修改配置,重启SSH,之后我们就可以使用root登录了。

首先,用phusion基础镜像创建一个新的容器。

[email protected]:/home/sam# docker run -d --name redis phusion/baseimage /sbin/my_init --enable-insecure-key

/sbin/my_init是允许phusion在容器启动的时候启动你的服务。enable-insecure-key允许我们使用‘insecure key‘ssh进新的容器。

现在我们已经部署了容器, 接下来需要得到它的IP地址,可以使用docker inspect命令。

[email protected]:/home/sam# docker inspect redis | grep IPA"IPAddress": "172.17.0.46",

接下来,下载’insecure key‘并使用它登录这个容器。

[email protected]:/home/sam# curl -o insecure_key -fSL https://github.com/phusion/baseimage-docker/raw/master/image/insecure_key[email protected]:/home/sam# chmod 600 insecure_key[email protected]:/home/sam# ssh -i insecure_key [email protected]<IP address>The authenticity of host ‘172.17.0.52 (172.17.0.52)‘ can‘t be established.ECDSA key fingerprint is aa:bb:cc:xx:xx:xx:xx:xx:xx:xx:xx:yy:zz:04:bf:04.Are you sure you want to continue connecting (yes/no)? yesWarning: Permanently added ‘172.17.0.52‘ (ECDSA) to the list of known hosts.[email protected]:~#

祝贺你, 你现在SSH进入容器了!下面你需要修改SSH,从而我们不再需要’insecure key‘了,为了做到这个,打开’/etc/ssh/sshd_config‘找到下面这一行, 并去掉注释。

PermitRootLogin yes

保存文件, 我们再设置root的密码。

[email protected]:~# passwdEnter new UNIX password:Retype new UNIX password:passwd: password updated successfully[email protected]:~#

以上我们做了一些准备工作,接下来我们将在这个容器中安装Redis。

2 安装Redis

现在我们已经有了配置好的镜像了,接下来我们需要去下载和安装Redis,你可以从这里下载到你想要的Redis,在我们的例子中用到的是3.0.0 RC1,下载地址是:https://github.com/antirez/red ... ar.gz。

注意:你还需要安装wget、gcc、make以及一些其它的工具。可以使用下面的命令:

apt-get update  #更新系统apt-get upgrade  #升级系统apt-get install wget  gcc make#安装wget、gcc、make

首先,我们下载Redis 3.0.0 RC1。

[email protected]:/home# wget https://github.com/antirez/redis/archive/3.0.0-rc1.tar.gz

解压这个包并make。

[email protected]:/home# tar -zxvf 3.0.0-rc1.tar.gz[email protected]:/home# cd redis-3.0.0-rc1/[email protected]:/home/redis-3.0.0-rc1# make

最后, 我们把编译好的代码中的几个可执行命令移动到/usr/bin/下面

[email protected]:/home/redis-3.0.0-rc1# cd src[email protected]:/home/redis-3.0.0-rc1/src# mv redis-cli redis-server redis-sentinel /usr/bin/[email protected]:/home/redis-3.0.0-rc1/src# cd ..[email protected]:/home/redis-3.0.0-rc1# mkdir -p /etc/redis/[email protected]:/home/redis-3.0.0-rc1# cp redis.conf /etc/redis/redis.conf

现在打开文件/etc/redis/redis.conf, 找到‘daemonize no’改为‘daemonize yes‘,然后启动它!

[email protected]:/home/redis-3.0.0-rc1/src# redis-server /etc/redis/redis.conf[email protected]:/home/redis-3.0.0-rc1/src#

好了, Redis现在已经安装好了,并且在容器里面运行了,使用的配置文件是/etc/redis/redis.conf。

3. 让Docker在启动容器的时候启动Redis服务

现在我们的容器正在运行Redis,并且也可以使用SSH登录了,我们还需要让它在容器启动的时候自动启动Redis服务,使用phusion基础镜像来实现这点相当的容易。首先,因为我们启动容器的时候使用了/sibn/my_init, 它会去运行任何我们放在/etc/service/*下面的程序。所以,对于我们来说,我们只要去创建一个目录以及在这个目录里面再创建一个叫run的文件,像下面这样:

[email protected]:/etc/service# cd /etc/service[email protected]:/etc/service# mkdir redis[email protected]:/etc/service# cd redis[email protected]:/etc/service/redis# nano run

在这个run文件里面,我们加入下面的内容:

#!/bin/shset -eexec /usr/bin/redis-server /etc/redis/redis.conf

海量技术文章:http://tieba.yunxunmi.com/

云搜 http://so.yunxunmi.com/ 让搜索更简单 采用html5完全支持手机和PC

最后,记得给run文件添加可执行权限。

4. 提交镜像以便于重用

现在我们的redis容器运行良好, 我们想要把它保存为伪模板,以便在Docker上重复部署。做到这个非常简单,我们只要使用‘docker commit ...’这个镜像到我们本地的库就可以了,像下面这样:

[email protected]:/home/sam# docker ps -asCONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES SIZEe3919192d9e3 phusion/baseimage:0.9.15 "/sbin/my_init --ena 3 hours ago Up 3 hours redis 164.9 MB[email protected]:/home/sam# docker commit redis redis-cluster-node[email protected]:/home/sam# docker imagesREPOSITORY TAG IMAGE ID CREATED VIRTUAL SIZEredis-cluster-node latest babfb02edf4d 5 hours ago 561.2 MB

5. 部署新镜像的3个实例

为了解释清楚,我会删除之前创建的容器,以免后面搞晕。首先使用docker stop
redis
,之后再docker rm redis

[email protected]:/home/sam# docker stop redisredis[email protected]:/home/sam# docker rm redisredis[email protected]:/home/sam#

很简单,下面让我们部署新镜像的3个实例,我们使用了Docker的端口映射机制,从而我们就可以使用Host服务器的IP访问这些实例,我们给这些实例关联的端口如下:

node1 - hostip:7001

node2 - hostip:7002

node3 - hostip:7003

所以我们运行redis-cli -h 192.168.0.2 -p 7001,它将重定向到172.17.0.x -p 6379,例如下面我们部署了三个实例:

[email protected]:/home/sam# docker run -d --name node1 -p 7001:6379 redis-cluster-node /sbin/my_initcd1c1f96346bdf9c1cec04333c2e849992ecbc4375dcea6b30902dd9842d8c99[email protected]:/home/sam# docker run -d --name node2 -p 7002:6379 redis-cluster-node /sbin/my_initcd1c1f96346bdf9c1cec04333c2e849992ecbc4375dcea6b30902dd9842d8c99[email protected]:/home/sam# docker run -d --name node3 -p 7003:6379 redis-cluster-node /sbin/my_initcd1c1f96346bdf9c1cec04333c2e849992ecbc4375dcea6b30902dd9842d8c99[email protected]:/home/sam#

现在我们可以运行docker ps -as来查看我们运行的三个Redis容器:

[email protected]:/home/sam# docker ps -asCONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES SIZEa532b4ac60d9 redis-cluster-node:latest "/sbin/my_init" 5 hours ago Up 5 hours 0.0.0.0:7003->6379/tcp node3 2.267 MB6c8a87a0a76a redis-cluster-node:latest "/sbin/my_init" 5 hours ago Up 5 hours 0.0.0.0:7002->6379/tcp node2 2.318 MB39e02633ccf8 redis-cluster-node:latest "/sbin/my_init" 5 hours ago Up 5 hours 0.0.0.0:7001->6379/tcp node1 2.334 MB[email protected]:/home/sam#

现在我们看到了3个容器,分别名字为node1、node2和node3,并且有一个专门的端口与Redis 服务的端口相映射。为了测试这样的映射是正确的,可以在另外一台机器使用redis-cli登录到各个Redis服务器上面:

[email protected]:/home/sam# redis-cli -h 192.168.0.2 -p 7001redis 192.168.0.16:7001>[email protected]:/home/sam# redis-cli -h 192.168.0.2 -p 7002redis 192.168.0.16:7002>[email protected]:/home/sam# redis-cli -h 192.168.0.2 -p 7003redis 192.168.0.16:7003>[email protected]:/home/sam# redis-cli -h 192.168.0.2 -p 7005Could not connect to Redis at 192.168.0.2:7005: Connection refusednot connected>

正如你看到的, 我们可以使用 hostip+port登录到对应的Redis服务器上, 当我们尝试一个不正确的端口时,却不行。

http://tieba.yunxunmi.com/tieba-Redis.html

译者增加: 如果这里验证失败了的可以登录进容器中检查下Redis的服务有没有起来:

docker exec -t -i redis bash -l
  netstat -anp | grep redis  #看看有没有网络监听,如果没有执行下面的命令启动redis服务
  redis-server /etc/redis/redis.conf
  

6. 配置Redis的从节点

我们有了三个独立的Redis服务器, 现在我们想把它们连接到一起, 从而我们可以测试这个集群的扩展性,对集群的监控,或者是做其它的事情。

我们把node1作为主节点,把node2和node3配置为它的从节点,这可以简单的通过修改/etc/redis/redis.conf这个文件来实现。SSH进入node2和node3节点,修改配置文件,然后重启容器:

[email protected]:/home/sam# docker inspect node1 | grep IPA"IPAddress": "172.17.0.46",[email protected]:/home/sam# docker inspect node2 | grep IPA"IPAddress": "172.17.0.47",[email protected]:/home/sam# ssh [email protected][email protected]‘s password:Last login: Tue Jan 13 11:47:31 2015 from 172.17.42.1[email protected]:~# nano /etc/redis/redis.conf

http://tieba.yunxunmi.com/tieba-Redis.html

在这个配置文件中我们只要找到‘salveof’这一行,然后去掉注释,修改为node1的ip地址,像下面这样:

[email protected]:~# cat /etc/redis/redis.conf | grep slaveof# Master-Slave replication. Use slaveof to make a Redis instance a copy ofslaveof 172.17.0.46 6379[email protected]:~#

最后使用命令docker restart node2重启容器, 现在它就是node1的一个从节点了。为了验证这个, 使用redis-cli分别登录到node1和node2, 在node1上运行命令set
hello world
, 然后在node2上运行get hello,如果配置正确的话会得到下面的结果:

[email protected]:/home/sam# redis-cli -h 192.168.0.16 -p 7001redis 192.168.0.12:7001> set hello worldOKredis 192.168.0.12:7001> exit[email protected]:/home/sam# redis-cli -h 192.168.0.16 -p 7002redis 192.168.0.12:7002> get hello"world"redis 192.168.0.12:7002> exit[email protected]:/home/sam#

对于node3也做同样的配置即可。

恭喜,基于Docker的、拥有三个节点且可水平扩展的Redis集群就这样搭好了。

接下来的下一篇博客中,我将给大家展示如何使用Opsview去监控Redis集群,你可以看到一个像下面这样展示你的集群统计信息的可视化界面:

http://tieba.yunxunmi.com/tieba-Redis.html

海量技术文章:http://tieba.yunxunmi.com/

云搜 http://so.yunxunmi.com/ 让搜索更简单 采用html5完全支持手机和PC

更多docker相关:http://tieba.yunxunmi.com/tieba-docker-pn-3.html

时间: 2024-11-07 08:16:50

用Docker构建分布式Redis集群的相关文章

用 Docker 构建分布式 Redis 集群

本文介绍了如何使用Docker搭建Redis集群,很多读者都在问Docker能带来哪些实质性的好处,我想本文就是一个很好的例子.不使用Docker你也可以搭建Redis集群,那使用Docker后会有怎么样的优势了?我想可以用两个词总结:快速和复用. 我们经常会遇到这样一个问题:当我们想进行一个完整的测试的时候,往往缺少硬件或者其它资源.为了满足需求,我可能需要三台服务,或者说三个虚拟机.但是我发现我们没有时间来创建它们,并且如果要物理机的话我们也没有那么多资源.这也是为什么我对Docker如此感

docker下安装redis集群

docker-compose.yml master: image: redis:4 container_name: redis-cluster_master command: redis-server --port 6379 ports: - "6379" net: "host" slave_1: image: redis:4 container_name: redis-cluster_slave_1 command: redis-server --port 638

redis集群(Sentinel)

问题 Redis 主哨兵模式是如何保证高可用的 主要依赖主哨兵的发现故障和故障转移 概述 本文假设读者对redis 的主从复制已经进行了了解 . Redis 主哨兵集群为Redis 提供了高可用,即高可用是猪哨兵模式的主要目的,这是宏观上Sentinel功能的完整列表 Monitoring :监视实例的情况 Notification : 通知 Automatic failover : 当Master异常下线后,自动会通过选举 Configuration provider : 提供配置信息. 注意

Redis集群功能概述

在单机Redis中介绍过Redis的复制特性以及Redis Sentinel和twemproxy,其中: 复制:可以创建指定服务器的复制品,这些复制品可以用户扩展系统处理读请求的能力: Redis Sentinel:可以在复制特性的基础上,通过监视主从服务器并在主服务器故障时执行自动故障转移来保证系统的可用性: twemproxy:使用分片策略来讲数据库划分到多个不同的服务器,以此来扩展系统存储的数据量,并通过将命令请求分散给不同的服务器来处理,以此来扩展系统处理命令请求的能力: 但是以上的特性

Docker快速构建Redis集群(cluster)

Docker快速构建Redis集群(cluster) 以所有redis实例运行在同一台宿主机上为例子 搭建步骤 redis集群目录清单 . ├── Dockerfile ├── make_master_slave.sh ├── run_master_slave.sh ├── compose_master_slave.sh ├── redis-trib.rb ├── master │?? ├── 7000 │?? │?? ├── data │?? │?? │?? ├── appendonly.ao

linux8 redis集群槽+docker

docker pull hello-world #不能推送,要把名字改一下 错误1 : 私有仓库搭建: 刚开始 : 报错: server gave http response to https client #只支持https的格式,不支持http的,要改一下http的 改一下 : vim /etc/docker/daemon.json 2.写入如下信息,地址改成你自己的ip {"registry-mirrors": ["http://f1361db2.m.daocloud.

Docker化高可用redis集群

最近遇到部分系统因为redis服务挂掉,导致部分服务不可用.所以希望搭建一个redis集群镜像,把原先散落各处的redis服务器统一管理起来,并且保障高可用和故障自动迁移. 一:redis集群分类 大家都知道redis集群有两种,一种是redis sentinel,高可用集群,同时只有一个master,各实例数据保持一致:一种是redis cluster,分布式集群,同时有多个master,数据分片部署在各个master上.基于我们的需求和redis本身技术的成熟度,本次要搭建的是redis s

Redis集群与分布式介绍以及搭建Redis-Cluster

1 Redis集群 1.1 什么是集群 集群就是很多服务器组成的一个网络.指的是将多台服务器集中在一起,实现同一业务. 1.2 为什么要集群 一台服务器不能满足开发需要的时候,需要多台服务器来支持.这个时候就需要做集群,但是集群往往伴随 着分布式. 1.3 集群的特性及能力 1.集群的两大关键特性: 可扩展性----集群的性能不限于单一的服务实体,新的服务实体可以动态地加入到集群,从而增强集群的性能.动态添加服务器高可用性----集群通过服务实体冗余使客户端免于轻易遇到out of servic

redis集群构建过程 linux windows

redis集群的构建过程 本人初次构建redis集群时,通过查阅资料整理的文档 目录 Linux Redis cluster集群方案... 1 Windows redis集群方案... 5 Linux Redis cluster集群方案 1 安装: 下载地址:http://download.redis.io/releases/ 下载版本:redis3.0.7.tar.gz [[email protected] soft]$ tar -zxzf redis-3.0.7.tar.gz [[email