Redis主从结构主节点执行写入后wait命令对性能的影响

这里的Redis主从结构可以是简单的主从,sentinel,redis cluster中的主从等。

wait命令的作用:
此命令将阻塞当前客户端,直到当前Session连接(主节点上)所有的写命令都被传送到指定数据量的slave节点。
如果到达超时(以毫秒为单位),则即使尚未完全传送到达指定数量的salve节点,该命令也会返回(成功传送到的节点的个数)。
该命令将始终返回确认在WAIT命令之前发送的写命令的副本数量,无论是在达到指定数量的副本的情况下,还是在达到超时的情况下。
具体说就是:比如对于1主2从的结构,Wait要求3秒钟之内传送到2个节点,但是达到超时时间3秒钟之后只成功传送到了1个slave节点上,此时wait也不会继续阻塞,而是返回成功传送的节点个数(1)。
有点类似于MySQL的半同步复制,但是效果完全不能跟半同步相比,因为Redis本身没有回滚的功能,这里的wait命令发起之后,即便是超时时间之后没有送到任何一个slave节点,主节点也不会回滚。
wait命令无法保证Redis主从之间的强一致,不过,在主从、sentinel和Redis群集故障转移中,wait能够增强(仅仅是增强,但不是保证)数据的安全性。

既然wait命令在当前连接之后会等待指定数量的从节点确认,其主节点的写入效率必然会收到一定程度的影响,那么这个影响有多大?
这里做一个简单的测试,环境2核4G的宿主机,docker下的集群3主3从的Redis集群,因此不用考虑网络延迟,在执行写入操作之后,使用两个Case,对比使不使用wait命令等待传送到salve的效率,
1,单线程循环写入100000个key值
2,多线程并发,10个线程每个线程写入10000个key,一共写入100000个key

Case1:单线程循环写入100000个key值
结论:不使用wait命令,整体耗时33秒,集群中单个节点的TPS为1000左右;使用wait命令,整体耗时72秒,集群中单个节点的TPS为480左右,整体效率下降了50%多一点

单线程不使用WAIT

单线程使用WAIT(redis_conn.execute_command(‘wait‘, 1, 0))

Case2:多线程循环写入100000个key值
结论:不使用wait命令,整体耗时19秒,集群中单个节点的TPS为1700左右;使用wait命令,整体耗时36秒,集群中单个节点的TPS为900左右,整体效率与单线程基本上一致,下降了50%多一点

多线程不使用WAIT,单节点上TPS可达到1700左右

多线程使用WAIT,单节点上TPS可达到850左右

鉴于在多线程模式下,CPU负载接近于瓶颈,因此不能再加更多的线程数,测试数据也仅供参考。

总结:
wait能够在主节点写入命令之后,通过阻塞的方式等待数据传送到从节点,wait能够增强(但不保证)数据的安全性。
其代价或者说性能损耗也是不小的,通过以上测试可以看出,即便是不考虑网络传输延迟的情况下,其性能损耗也超出了50%。

#!/usr/bin/env python
# coding:utf-8
import sys
import time
import datetime
from rediscluster import StrictRedisCluster
import threading
from time import ctime,sleep

def redis_cluster_write():
    redis_nodes = [ {‘host‘:‘172.18.0.11‘,‘port‘:8888},
                    {‘host‘:‘172.18.0.12‘,‘port‘:8888},
                    {‘host‘:‘172.18.0.13‘,‘port‘:8888},
                    {‘host‘:‘172.18.0.14‘,‘port‘:8888},
                    {‘host‘:‘172.18.0.15‘,‘port‘:8888},
                    {‘host‘:‘172.18.0.16‘,‘port‘:8888}]
    try:
        redis_conn = StrictRedisCluster(startup_nodes=redis_nodes,password=‘******‘)
    except Exception:
        raise Exception
    redis_conn.config_set(‘cluster-require-full-coverage‘, ‘yes‘)
    counter = 0
    for i in range(0,100000):
        counter = counter+1
        redis_conn.set(‘key_‘+str(i),‘value_‘+str(i))
        #redis_conn.execute_command(‘wait‘, 1, 0)
        if counter == 1000:
            print(‘insert 1000 keys ‘+str(str(datetime.datetime.now())))
            counter = 0

def redis_concurrence_test(thread_id):
    redis_nodes = [ {‘host‘:‘172.18.0.11‘,‘port‘:8888},
                    {‘host‘:‘172.18.0.12‘,‘port‘:8888},
                    {‘host‘:‘172.18.0.13‘,‘port‘:8888},
                    {‘host‘:‘172.18.0.14‘,‘port‘:8888},
                    {‘host‘:‘172.18.0.15‘,‘port‘:8888},
                    {‘host‘:‘172.18.0.16‘,‘port‘:8888}]
    try:
        redis_conn = StrictRedisCluster(startup_nodes=redis_nodes, password=‘******‘)
    except Exception:
        raise Exception
    redis_conn.config_set(‘cluster-require-full-coverage‘, ‘yes‘)
    counter = 0
    for i in range(0, 10000):
        counter = counter + 1
        redis_conn.set(‘key_‘ + str(thread_id)+‘_‘+str(counter), ‘value_‘ + str(i))
        #redis_conn.execute_command(‘wait‘, 1, 0)
        if counter == 1000:
            print(str(thread_id)+‘:insert 1000 keys ‘ + str(str(datetime.datetime.now())))
            counter = 0

if __name__ == ‘__main__‘:
    #redis_cluster_write()
    threads = []
    for i in range(10):
        t = threading.Thread(target=redis_concurrence_test, args=(i,))
        threads.append(t)
    begin_time = ctime()
    for t in threads:
        t.setDaemon(True)
        t.start()
    for t in threads:
        t.join()

https://redis.io/commands/wait

原文地址:https://www.cnblogs.com/wy123/p/12158957.html

时间: 2024-10-19 12:22:54

Redis主从结构主节点执行写入后wait命令对性能的影响的相关文章

shell脚本介绍,shell脚本结构和执行方式,date命令的用法,shell脚本中的变量简介

笔记内容: 20.1 shell脚本介绍 20.2 shell脚本结构和执行 20.3 date命令用法 20.4 shell脚本中的变量 笔记日期:2017-11-21 20.1 shell脚本介绍 Shell Script,Shell脚本与Windows/Dos下的批处理相似,也就是用各类命令预先放入到一个文件中,方便一次性执行的一个程序文件,主要是方便管理员进行设置或者管理用的.但是它比Windows下的批处理更强大,比用其他编程程序编辑的程序效率更高,它使用了Linux/Unix下的命令

20.1 shell脚本介绍 20.2 shell脚本结构和执行 20.3 date命令用法 20.4 shell脚本中的变量

- 20.1 shell脚本介绍 - 20.2 shell脚本结构和执行 - 20.3 date命令用法 - 20.4 shell脚本中的变量 # 20.1 Shell脚本介绍 -  shell是一种脚本语言  关注aming_linux  blog.lishiming.net -  可以使用逻辑判断.循环等语法 -  可以自定义函数 -  shell是系统命令的集合 -  shell脚本可以实现自动化运维,能大大增加我们的运维效率 # 20.2 Shell脚本结构和执行 - 开头需要加#!/b

20.1 shell脚本介绍 20.2 shell脚本结构和执行 20.3 date命令用法 20.

20.1 shell脚本介绍 20.2 shell脚本结构和执行 20.3 date命令用法 20.4 shell脚本中的变量 原文地址:http://blog.51cto.com/12058686/2104654

redis 主从结构部署

Redis 主从搭建 结构: 1). 同一个Master可以同步多个Slaves.    2). Slave同样可以接受其它Slaves的连接和同步请求,这样可以有效的分载Master的同步压力.因此我们可以将Redis的Replication架构视为图结构.    3). Master Server是以非阻塞的方式为Slaves提供服务.所以在Master-Slave同步期间,客户端仍然可以提交查询或修改请求.    4). Slave Server同样是以非阻塞的方式完成数据同步.在同步期间

Shell脚本(脚本结构和执行方法,date命令用法,脚本中的变量)

Shell是什么 Shell是一种脚本语言,和传统语言C,Python...相比还是比较简单的. 可以使用逻辑判断,循环等语法 可以自定义函数 shell是系统命令的集合 shell脚本可以实现自动化运维,能大大增加我们的运维效率 Shell脚本结构和执行方法 1.开头必须要#!/bin/bash  解释器命令,下面的命令是通过哪一个解释器执行的 我们发现sh其实只是bash的软连接 [[email protected] shell]# ll /bin/sh lrwxrwxrwx. 1 root

redis主从及集群搭建

redis主从复制 概述 1.Redis的复制功能是支持多个数据库之间的数据同步.一类是主数据库(master)一类是从数据库(slave),主数据库可以进行读写操作,当发生写操作的时候自动将数据同步到从数据库,而从数据库一般是只读的,并接收主数据库同步过来的数据,一个主数据库可以有多个从数据库,而一个从数据库只能有一个主数据库. 2.通过redis的复制功能可以很好的实现数据库的读写分离,提高服务器的负载能力.主数据库主要进行写操作,而从数据库负责读操作. 主从复制过程 主从复制过程:见下图

redis主从集群搭建及容灾部署(哨兵sentinel)

Redis也用了一段时间了,记录一下相关集群搭建及配置详解,方便后续使用查阅. 提纲 l  Redis安装 l  整体架构 l  Redis主从结构搭建 l  Redis容灾部署(哨兵sentinel) l  Redis常见问题 Redis安装 发行版:CentOS-6.6 64bit 内核:2.6.32-504.el6.x86_64 CPU:intel-i7 3.6G 内存:2G 下载redis,选择合适的版本 [[email protected] software]# wget http:/

Redis 主从搭建

目录 一.redis主从库相同操作... 2 1.     创建分用户(用于启动redis)... 2 2.     切换到分用户环境... 2 3.     上传redis软件或者wget http://download.redis.io/releases/redis-3.2.6.tar.gz. 2 4.     解压缩redis文件并安装... 2 二.redis主库操作... 2 1.     修改redis的配置文件,将redis的配置文件修改成如下内容:... 2 2.     创建r

20.1-4 shell脚本介绍 shell脚本结构和执行 date命令用法 shell脚本中的变量

20.1 shell脚本介绍20.2 shell脚本结构和执行20.3 date命令用法%w 星期几 %W今年的第几周cal是显示日历的时间戳可以相互查询 20.4 shell脚本中的变量 原文地址:http://blog.51cto.com/13450039/2104595