redis源码分析(1)--makefile和目录结构分析

一、redis源码编译

redis可以直接在官网下载(本文使用版本 3.0.7):https://redis.io/download

安装:

$ tar xzf redis-3.0.7.tar.gz
$ cd redis-3.0.7
$ make
make执行以后主要编译产物在src/redis-server src/redis-cli
如果想把redis-server直接install到可执行目录/usr/local/bin,还需要执行:
$ make install

Run Redis with:

$ src/redis-server

You can interact with Redis using the built-in client:

$ src/redis-cli
redis> set foo bar
OK
redis> get foo
"bar"
二、redis Makefile
redis根目录下的Makefile内容:
 1 # Top level makefile, the real shit is at src/Makefile
 2
 3 default: all
 4
 5 .DEFAULT:
 6     cd src && $(MAKE) [email protected]
 7
 8 install:
 9     cd src && $(MAKE) [email protected]
10
11 .PHONY: install

主要调用src/Makefile, 内容较长,分析有用信息:

  1 # Redis Makefile
  2 # Copyright (C) 2009 Salvatore Sanfilippo <antirez at gmail dot com>
  3 # This file is released under the BSD license, see the COPYING file
  4 #
  5 # The Makefile composes the final FINAL_CFLAGS and FINAL_LDFLAGS using
  6 # what is needed for Redis plus the standard CFLAGS and LDFLAGS passed.
  7 # However when building the dependencies (Jemalloc, Lua, Hiredis, ...)
  8 # CFLAGS and LDFLAGS are propagated to the dependencies, so to pass
  9 # flags only to be used when compiling / linking Redis itself REDIS_CFLAGS
 10 # and REDIS_LDFLAGS are used instead (this is the case of ‘make gcov‘).
 11 #
 12 # Dependencies are stored in the Makefile.dep file. To rebuild this file
 13 # Just use ‘make dep‘, but this is only needed by developers.
 14
 15 release_hdr := $(shell sh -c ‘./mkreleasehdr.sh‘)  # 这个脚本生成系统版本信息
 16 uname_S := $(shell sh -c ‘uname -s 2>/dev/null || echo not‘) # uname -r输出操作系统类型,Linux
 17 OPTIMIZATION?=-O2 # 优化级别 ?=表示没有定义则赋值
 18 DEPENDENCY_TARGETS=hiredis linenoise lua
 19
 20 # Default settings
 21 STD=-std=c99 -pedantic
 22 WARN=-Wall -W # -Wall表示输出所有warning信息
 23 OPT=$(OPTIMIZATION)
 24
 25 PREFIX?=/usr/local # 这几行表示make install路径
 26 INSTALL_BIN=$(PREFIX)/bin
 27 INSTALL=install
 28
 29 # Default allocator # 下面根据操作系统类型定义内存MALLOC分配器
 30 ifeq ($(uname_S),Linux)
 31     MALLOC=jemalloc
 32 else
 33     MALLOC=libc
 34 endif
 35
 36 # Backwards compatibility for selecting an allocator
 37 ifeq ($(USE_TCMALLOC),yes)
 38     MALLOC=tcmalloc
 39 endif
 40
 41 ifeq ($(USE_TCMALLOC_MINIMAL),yes)
 42     MALLOC=tcmalloc_minimal
 43 endif
 44
 45 ifeq ($(USE_JEMALLOC),yes)
 46     MALLOC=jemalloc
 47 endif
 48
 49 # Override default settings if possible #默认make设置,
 50 -include .make-settings
 51
 52 FINAL_CFLAGS=$(STD) $(WARN) $(OPT) $(DEBUG) $(CFLAGS) $(REDIS_CFLAGS) # 最终CCFLAGS
 53 FINAL_LDFLAGS=$(LDFLAGS) $(REDIS_LDFLAGS) $(DEBUG) # 最终LDFLAGS
 54 FINAL_LIBS=-lm
 55 DEBUG=-g -ggdb
 56
 57 ifeq ($(uname_S),SunOS) # 非Linux操作系统处理
 58     # SunOS
 59     INSTALL=cp -pf
 60     FINAL_CFLAGS+= -D__EXTENSIONS__ -D_XPG6
 61     FINAL_LIBS+= -ldl -lnsl -lsocket -lresolv -lpthread -lrt
 62 else
 63 ifeq ($(uname_S),Darwin)
 64     # Darwin (nothing to do)
 65 else
 66 ifeq ($(uname_S),AIX)
 67         # AIX
 68         FINAL_LDFLAGS+= -Wl,-bexpall
 69         FINAL_LIBS+= -pthread -lcrypt -lbsd
 70
 71 else
 72     # All the other OSes (notably Linux)
 73     FINAL_LDFLAGS+= -rdynamic
 74     FINAL_LIBS+= -pthread
 75 endif
 76 endif
 77 endif
 78 # Include paths to dependencies
 79 FINAL_CFLAGS+= -I../deps/hiredis -I../deps/linenoise -I../deps/lua/src
 80
 81 ifeq ($(MALLOC),tcmalloc)
 82     FINAL_CFLAGS+= -DUSE_TCMALLOC
 83     FINAL_LIBS+= -ltcmalloc
 84 endif
 85
 86 ifeq ($(MALLOC),tcmalloc_minimal)
 87     FINAL_CFLAGS+= -DUSE_TCMALLOC
 88     FINAL_LIBS+= -ltcmalloc_minimal
 89 endif
 90
 91 ifeq ($(MALLOC),jemalloc)
 92     DEPENDENCY_TARGETS+= jemalloc
 93     FINAL_CFLAGS+= -DUSE_JEMALLOC -I../deps/jemalloc/include
 94     FINAL_LIBS+= ../deps/jemalloc/lib/libjemalloc.a -ldl
 95 endif
 96 # 下面QUIET_XXX表示编译的时候,如果定义V=1,即使用make V=1, 输出详细编译信息,否则输出简单编译信息
 97 REDIS_CC=$(QUIET_CC)$(CC) $(FINAL_CFLAGS)
 98 REDIS_LD=$(QUIET_LINK)$(CC) $(FINAL_LDFLAGS)
 99 REDIS_INSTALL=$(QUIET_INSTALL)$(INSTALL)
100
101 CCCOLOR="\033[34m"
102 LINKCOLOR="\033[34;1m"
103 SRCCOLOR="\033[33m"
104 BINCOLOR="\033[37;1m"
105 MAKECOLOR="\033[32;1m"
106 ENDCOLOR="\033[0m"
107
108 ifndef V
109 QUIET_CC = @printf ‘    %b %b\n‘ $(CCCOLOR)CC$(ENDCOLOR) $(SRCCOLOR)[email protected]$(ENDCOLOR) 1>&2;
110 QUIET_LINK = @printf ‘    %b %b\n‘ $(LINKCOLOR)LINK$(ENDCOLOR) $(BINCOLOR)[email protected]$(ENDCOLOR) 1>&2;
111 QUIET_INSTALL = @printf ‘    %b %b\n‘ $(LINKCOLOR)INSTALL$(ENDCOLOR) $(BINCOLOR)[email protected]$(ENDCOLOR) 1>&2;
112 endif
113 # redis-server redis-cli redis-sentinel的依赖关系
114 REDIS_SERVER_NAME=redis-server
115 REDIS_SENTINEL_NAME=redis-sentinel
116 REDIS_SERVER_OBJ=adlist.o ae.o anet.o dict.o redis.o sds.o zmalloc.o lzf_c.o lzf_d.o pqsort.o zipmap.o sha1.o ziplist.o release.o networking.o util.o object.o db.o replication.o rdb.o t_string.o t_list.o t_set.o t_zset.o t_hash.o config.o aof.o pubsub.o multi.o debug.o sort.o intset.o syncio.o cluster.o crc16.o endianconv.o slowlog.o scripting.o bio.o rio.o rand.o memtest.o crc64.o bitops.o sentinel.o notify.o setproctitle.o blocked.o hyperloglog.o latency.o sparkline.o
117 REDIS_CLI_NAME=redis-cli
118 REDIS_CLI_OBJ=anet.o sds.o adlist.o redis-cli.o zmalloc.o release.o anet.o ae.o crc64.o
119 REDIS_BENCHMARK_NAME=redis-benchmark
120 REDIS_BENCHMARK_OBJ=ae.o anet.o redis-benchmark.o sds.o adlist.o zmalloc.o redis-benchmark.o
121 REDIS_CHECK_DUMP_NAME=redis-check-dump
122 REDIS_CHECK_DUMP_OBJ=redis-check-dump.o lzf_c.o lzf_d.o crc64.o
123 REDIS_CHECK_AOF_NAME=redis-check-aof
124 REDIS_CHECK_AOF_OBJ=redis-check-aof.o
125 # MakeFile真正开始Work的地方
126 all: $(REDIS_SERVER_NAME) $(REDIS_SENTINEL_NAME) $(REDIS_CLI_NAME) $(REDIS_BENCHMARK_NAME) $(REDIS_CHECK_DUMP_NAME) $(REDIS_CHECK_AOF_NAME)
127     @echo ""
128     @echo "Hint: It‘s a good idea to run ‘make test‘ ;)"
129     @echo ""
130
131 .PHONY: all
132
133 # Deps (use make dep to generate this)
134 include Makefile.dep # Makefile.dep包含各个.o目标文件的依赖.c/.h源文件
135
136 dep:
137     $(REDIS_CC) -MM *.c > Makefile.dep
138
139 .PHONY: dep
140
141 persist-settings: distclean
142     echo STD=$(STD) >> .make-settings
143     echo WARN=$(WARN) >> .make-settings
144     echo OPT=$(OPT) >> .make-settings
145     echo MALLOC=$(MALLOC) >> .make-settings
146     echo CFLAGS=$(CFLAGS) >> .make-settings
147     echo LDFLAGS=$(LDFLAGS) >> .make-settings
148     echo REDIS_CFLAGS=$(REDIS_CFLAGS) >> .make-settings
149     echo REDIS_LDFLAGS=$(REDIS_LDFLAGS) >> .make-settings
150     echo PREV_FINAL_CFLAGS=$(FINAL_CFLAGS) >> .make-settings
151     echo PREV_FINAL_LDFLAGS=$(FINAL_LDFLAGS) >> .make-settings
152     -(cd ../deps && $(MAKE) $(DEPENDENCY_TARGETS))
153
154 .PHONY: persist-settings
155
156 # Prerequisites target
157 .make-prerequisites:
158     @touch [email protected]
159
160 # Clean everything, persist settings and build dependencies if anything changed
161 ifneq ($(strip $(PREV_FINAL_CFLAGS)), $(strip $(FINAL_CFLAGS)))
162 .make-prerequisites: persist-settings
163 endif
164
165 ifneq ($(strip $(PREV_FINAL_LDFLAGS)), $(strip $(FINAL_LDFLAGS)))
166 .make-prerequisites: persist-settings
167 endif
168 # 下面生成redis-server redis-cli等可执行程序
169 # redis-server
170 $(REDIS_SERVER_NAME): $(REDIS_SERVER_OBJ)
171     $(REDIS_LD) -o [email protected] $^ ../deps/hiredis/libhiredis.a ../deps/lua/src/liblua.a $(FINAL_LIBS)
172
173 # redis-sentinel
174 $(REDIS_SENTINEL_NAME): $(REDIS_SERVER_NAME)
175     $(REDIS_INSTALL) $(REDIS_SERVER_NAME) $(REDIS_SENTINEL_NAME)
176
177 # redis-cli
178 $(REDIS_CLI_NAME): $(REDIS_CLI_OBJ)
179     $(REDIS_LD) -o [email protected] $^ ../deps/hiredis/libhiredis.a ../deps/linenoise/linenoise.o $(FINAL_LIBS)
180
181 # redis-benchmark
182 $(REDIS_BENCHMARK_NAME): $(REDIS_BENCHMARK_OBJ)
183     $(REDIS_LD) -o [email protected] $^ ../deps/hiredis/libhiredis.a $(FINAL_LIBS)
184
185 # redis-check-dump
186 $(REDIS_CHECK_DUMP_NAME): $(REDIS_CHECK_DUMP_OBJ)
187     $(REDIS_LD) -o [email protected] $^ $(FINAL_LIBS)
188
189 # redis-check-aof
190 $(REDIS_CHECK_AOF_NAME): $(REDIS_CHECK_AOF_OBJ)
191     $(REDIS_LD) -o [email protected] $^ $(FINAL_LIBS)
192
193 # Because the jemalloc.h header is generated as a part of the jemalloc build,
194 # building it should complete before building any other object. Instead of
195 # depending on a single artifact, build all dependencies first.
196 %.o: %.c .make-prerequisites # 这里表示.c文件生成相应的.o文件
197     $(REDIS_CC) -c $<
198 # 接下来是删除编译产物
199 clean:
200     rm -rf $(REDIS_SERVER_NAME) $(REDIS_SENTINEL_NAME) $(REDIS_CLI_NAME) $(REDIS_BENCHMARK_NAME) $(REDIS_CHECK_DUMP_NAME) $(REDIS_CHECK_AOF_NAME) *.o *.gcda *.gcno *.gcov redis.info lcov-html
201
202 .PHONY: clean
203
204 distclean: clean
205     -(cd ../deps && $(MAKE) distclean)
206     -(rm -f .make-*)
207
208 .PHONY: distclean
209 # 测试编译产物redis-server redis-cli等
210 test: $(REDIS_SERVER_NAME) $(REDIS_CHECK_AOF_NAME)
211     @(cd ..; ./runtest)
212
213 test-sentinel: $(REDIS_SENTINEL_NAME)
214     @(cd ..; ./runtest-sentinel)
215
216 check: test
217
218 lcov:
219     $(MAKE) gcov
220     @(set -e; cd ..; ./runtest --clients 1)
221     @geninfo -o redis.info .
222     @genhtml --legend -o lcov-html redis.info
223
224 .PHONY: lcov
225
226 bench: $(REDIS_BENCHMARK_NAME)
227     ./$(REDIS_BENCHMARK_NAME)
228
229 32bit:
230     @echo ""
231     @echo "WARNING: if it fails under Linux you probably need to install libc6-dev-i386"
232     @echo ""
233     $(MAKE) CFLAGS="-m32" LDFLAGS="-m32"
234
235 gcov:
236     $(MAKE) REDIS_CFLAGS="-fprofile-arcs -ftest-coverage -DCOVERAGE_TEST" REDIS_LDFLAGS="-fprofile-arcs -ftest-coverage"
237
238 noopt:
239     $(MAKE) OPTIMIZATION="-O0"
240
241 valgrind:
242     $(MAKE) OPTIMIZATION="-O0" MALLOC="libc"
243
244 src/help.h:
245     @../utils/generate-command-help.rb > help.h
246 # 安装到/usr/local/bin
247 install: all
248     @mkdir -p $(INSTALL_BIN)
249     $(REDIS_INSTALL) $(REDIS_SERVER_NAME) $(INSTALL_BIN)
250     $(REDIS_INSTALL) $(REDIS_BENCHMARK_NAME) $(INSTALL_BIN)
251     $(REDIS_INSTALL) $(REDIS_CLI_NAME) $(INSTALL_BIN)
252     $(REDIS_INSTALL) $(REDIS_CHECK_DUMP_NAME) $(INSTALL_BIN)
253     $(REDIS_INSTALL) $(REDIS_CHECK_AOF_NAME) $(INSTALL_BIN)
254     @ln -sf $(REDIS_SERVER_NAME) $(INSTALL_BIN)/$(REDIS_SENTINEL_NAME)

redis的Makefile文件比较简单清晰。

三、配置文件解析

  1 #redis.conf
  2 # Redis configuration file example.
  3 # ./redis-server /path/to/redis.conf
  4
  5 ################################## INCLUDES ###################################
  6 #这在你有标准配置模板但是每个redis服务器又需要个性设置的时候很有用。
  7 # include /path/to/local.conf
  8 # include /path/to/other.conf
  9
 10 ################################ GENERAL #####################################
 11
 12 #是否在后台执行,yes:后台运行;no:不是后台运行(老版本默认)
 13 daemonize yes
 14
 15   #3.2里的参数,是否开启保护模式,默认开启。要是配置里没有指定bind和密码。开启该参数后,redis只会本地进行访问,拒绝外部访问。要是开启了密码   和bind,可以开启。否   则最好关闭,设置为no。
 16   protected-mode yes
 17 #redis的进程文件
 18 pidfile /var/run/redis/redis-server.pid
 19
 20 #redis监听的端口号。
 21 port 6379
 22
 23 #此参数确定了TCP连接中已完成队列(完成三次握手之后)的长度, 当然此值必须不大于Linux系统定义的/proc/sys/net/core/somaxconn值,默认是511,而Linux的默认参数值是128。当系统并发量大并且客户端速度缓慢的时候,可以将这二个参数一起参考设定。该内核参数默认值一般是128,对于负载很大的服务程序来说大大的不够。一般会将它修改为2048或者更大。在/etc/sysctl.conf中添加:net.core.somaxconn = 2048,然后在终端中执行sysctl -p。
 24 tcp-backlog 511
 25
 26 #指定 redis 只接收来自于该 IP 地址的请求,如果不进行设置,那么将处理所有请求
 27 bind 127.0.0.1
 28
 29 #配置unix socket来让redis支持监听本地连接。
 30 # unixsocket /var/run/redis/redis.sock
 31 #配置unix socket使用文件的权限
 32 # unixsocketperm 700
 33
 34 # 此参数为设置客户端空闲超过timeout,服务端会断开连接,为0则服务端不会主动断开连接,不能小于0。
 35 timeout 0
 36
 37 #tcp keepalive参数。如果设置不为0,就使用配置tcp的SO_KEEPALIVE值,使用keepalive有两个好处:检测挂掉的对端。降低中间设备出问题而导致网络看似连接却已经与对端端口的问题。在Linux内核中,设置了keepalive,redis会定时给对端发送ack。检测到对端关闭需要两倍的设置值。
 38 tcp-keepalive 0
 39
 40 #指定了服务端日志的级别。级别包括:debug(很多信息,方便开发、测试),verbose(许多有用的信息,但是没有debug级别信息多),notice(适当的日志级别,适合生产环境),warn(只有非常重要的信息)
 41 loglevel notice
 42
 43 #指定了记录日志的文件。空字符串的话,日志会打印到标准输出设备。后台运行的redis标准输出是/dev/null。
 44 logfile /var/log/redis/redis-server.log
 45
 46 #是否打开记录syslog功能
 47 # syslog-enabled no
 48
 49 #syslog的标识符。
 50 # syslog-ident redis
 51
 52 #日志的来源、设备
 53 # syslog-facility local0
 54
 55 #数据库的数量,默认使用的数据库是DB 0。可以通过”SELECT “命令选择一个db
 56 databases 16
 57
 58 ################################ SNAPSHOTTING ################################
 59 # 快照配置
 60 # 注释掉“save”这一行配置项就可以让保存数据库功能失效
 61 # 设置sedis进行数据库镜像的频率。
 62 # 900秒(15分钟)内至少1个key值改变(则进行数据库保存--持久化)
 63 # 300秒(5分钟)内至少10个key值改变(则进行数据库保存--持久化)
 64 # 60秒(1分钟)内至少10000个key值改变(则进行数据库保存--持久化)
 65 save 900 1
 66 save 300 10
 67 save 60 10000
 68
 69 #当RDB持久化出现错误后,是否依然进行继续进行工作,yes:不能进行工作,no:可以继续进行工作,可以通过info中的rdb_last_bgsave_status了解RDB持久化是否有错误
 70 stop-writes-on-bgsave-error yes
 71
 72 #使用压缩rdb文件,rdb文件压缩使用LZF压缩算法,yes:压缩,但是需要一些cpu的消耗。no:不压缩,需要更多的磁盘空间
 73 rdbcompression yes
 74
 75 #是否校验rdb文件。从rdb格式的第五个版本开始,在rdb文件的末尾会带上CRC64的校验和。这跟有利于文件的容错性,但是在保存rdb文件的时候,会有大概10%的性能损耗,所以如果你追求高性能,可以关闭该配置。
 76 rdbchecksum yes
 77
 78 #rdb文件的名称
 79 dbfilename dump.rdb
 80
 81 #数据目录,数据库的写入会在这个目录。rdb、aof文件也会写在这个目录
 82 dir /var/lib/redis
 83
 84 ################################# REPLICATION #################################
 85 #复制选项,slave复制对应的master。
 86 # slaveof <masterip> <masterport>
 87
 88 #如果master设置了requirepass,那么slave要连上master,需要有master的密码才行。masterauth就是用来配置master的密码,这样可以在连上master后进行认证。
 89 # masterauth <master-password>
 90
 91 #当从库同主机失去连接或者复制正在进行,从机库有两种运行方式:1) 如果slave-serve-stale-data设置为yes(默认设置),从库会继续响应客户端的请求。2) 如果slave-serve-stale-data设置为no,除去INFO和SLAVOF命令之外的任何请求都会返回一个错误”SYNC with master in progress”。
 92 slave-serve-stale-data yes
 93
 94 #作为从服务器,默认情况下是只读的(yes),可以修改成NO,用于写(不建议)。
 95 slave-read-only yes
 96
 97 #是否使用socket方式复制数据。目前redis复制提供两种方式,disk和socket。如果新的slave连上来或者重连的slave无法部分同步,就会执行全量同步,master会生成rdb文件。有2种方式:disk方式是master创建一个新的进程把rdb文件保存到磁盘,再把磁盘上的rdb文件传递给slave。socket是master创建一个新的进程,直接把rdb文件以socket的方式发给slave。disk方式的时候,当一个rdb保存的过程中,多个slave都能共享这个rdb文件。socket的方式就的一个个slave顺序复制。在磁盘速度缓慢,网速快的情况下推荐用socket方式。
 98 repl-diskless-sync no
 99
100 #diskless复制的延迟时间,防止设置为0。一旦复制开始,节点不会再接收新slave的复制请求直到下一个rdb传输。所以最好等待一段时间,等更多的slave连上来。
101 repl-diskless-sync-delay 5
102
103 #slave根据指定的时间间隔向服务器发送ping请求。时间间隔可以通过 repl_ping_slave_period 来设置,默认10秒。
104 # repl-ping-slave-period 10
105
106 #复制连接超时时间。master和slave都有超时时间的设置。master检测到slave上次发送的时间超过repl-timeout,即认为slave离线,清除该slave信息。slave检测到上次和master交互的时间超过repl-timeout,则认为master离线。需要注意的是repl-timeout需要设置一个比repl-ping-slave-period更大的值,不然会经常检测到超时。
107 # repl-timeout 60
108
109 #是否禁止复制tcp链接的tcp nodelay参数,可传递yes或者no。默认是no,即使用tcp nodelay。如果master设置了yes来禁止tcp nodelay设置,在把数据复制给slave的时候,会减少包的数量和更小的网络带宽。但是这也可能带来数据的延迟。默认我们推荐更小的延迟,但是在数据量传输很大的场景下,建议选择yes。
110 repl-disable-tcp-nodelay no
111
112 #复制缓冲区大小,这是一个环形复制缓冲区,用来保存最新复制的命令。这样在slave离线的时候,不需要完全复制master的数据,如果可以执行部分同步,只需要把缓冲区的部分数据复制给slave,就能恢复正常复制状态。缓冲区的大小越大,slave离线的时间可以更长,复制缓冲区只有在有slave连接的时候才分配内存。没有slave的一段时间,内存会被释放出来,默认1m。
113 # repl-backlog-size 5mb
114
115 #master没有slave一段时间会释放复制缓冲区的内存,repl-backlog-ttl用来设置该时间长度。单位为秒。
116 # repl-backlog-ttl 3600
117
118 #当master不可用,Sentinel会根据slave的优先级选举一个master。最低的优先级的slave,当选master。而配置成0,永远不会被选举。
119 slave-priority 100
120
121 #redis提供了可以让master停止写入的方式,如果配置了min-slaves-to-write,健康的slave的个数小于N,mater就禁止写入。master最少得有多少个健康的slave存活才能执行写命令。这个配置虽然不能保证N个slave都一定能接收到master的写操作,但是能避免没有足够健康的slave的时候,master不能写入来避免数据丢失。设置为0是关闭该功能。
122 # min-slaves-to-write 3
123
124 #延迟小于min-slaves-max-lag秒的slave才认为是健康的slave。
125 # min-slaves-max-lag 10
126
127 # 设置1或另一个设置为0禁用这个特性。
128 # Setting one or the other to 0 disables the feature.
129 # By default min-slaves-to-write is set to 0 (feature disabled) and
130 # min-slaves-max-lag is set to 10.
131
132 ################################## SECURITY ###################################
133 #requirepass配置可以让用户使用AUTH命令来认证密码,才能使用其他命令。这让redis可以使用在不受信任的网络中。为了保持向后的兼容性,可以注释该命令,因为大部分用户也不需要认证。使用requirepass的时候需要注意,因为redis太快了,每秒可以认证15w次密码,简单的密码很容易被攻破,所以最好使用一个更复杂的密码。
134 # requirepass foobared
135
136 #把危险的命令给修改成其他名称。比如CONFIG命令可以重命名为一个很难被猜到的命令,这样用户不能使用,而内部工具还能接着使用。
137 # rename-command CONFIG b840fc02d524045429941cc15f59e41cb7be6c52
138
139 #设置成一个空的值,可以禁止一个命令
140 # rename-command CONFIG ""
141 ################################### LIMITS ####################################
142
143 # 设置能连上redis的最大客户端连接数量。默认是10000个客户端连接。由于redis不区分连接是客户端连接还是内部打开文件或者和slave连接等,所以maxclients最小建议设置到32。如果超过了maxclients,redis会给新的连接发送’max number of clients reached’,并关闭连接。
144 # maxclients 10000
145
146 #redis配置的最大内存容量。当内存满了,需要配合maxmemory-policy策略进行处理。注意slave的输出缓冲区是不计算在maxmemory内的。所以为了防止主机内存使用完,建议设置的maxmemory需要更小一些。
147 # maxmemory <bytes>
148
149 #内存容量超过maxmemory后的处理策略。
150 #volatile-lru:利用LRU算法移除设置过过期时间的key。
151 #volatile-random:随机移除设置过过期时间的key。
152 #volatile-ttl:移除即将过期的key,根据最近过期时间来删除(辅以TTL)
153 #allkeys-lru:利用LRU算法移除任何key。
154 #allkeys-random:随机移除任何key。
155 #noeviction:不移除任何key,只是返回一个写错误。
156 #上面的这些驱逐策略,如果redis没有合适的key驱逐,对于写命令,还是会返回错误。redis将不再接收写请求,只接收get请求。写命令包括:set setnx setex append incr decr rpush lpush rpushx lpushx linsert lset rpoplpush sadd sinter sinterstore sunion sunionstore sdiff sdiffstore zadd zincrby zunionstore zinterstore hset hsetnx hmset hincrby incrby decrby getset mset msetnx exec sort。
157 # maxmemory-policy noeviction
158
159 #lru检测的样本数。使用lru或者ttl淘汰算法,从需要淘汰的列表中随机选择sample个key,选出闲置时间最长的key移除。
160 # maxmemory-samples 5
161
162 ############################## APPEND ONLY MODE ###############################
163 #默认redis使用的是rdb方式持久化,这种方式在许多应用中已经足够用了。但是redis如果中途宕机,会导致可能有几分钟的数据丢失,根据save来策略进行持久化,Append Only File是另一种持久化方式,可以提供更好的持久化特性。Redis会把每次写入的数据在接收后都写入 appendonly.aof 文件,每次启动时Redis都会先把这个文件的数据读入内存里,先忽略RDB文件。
164 appendonly no
165
166 #aof文件名
167 appendfilename "appendonly.aof"
168
169 #aof持久化策略的配置
170 #no表示不执行fsync,由操作系统保证数据同步到磁盘,速度最快。
171 #always表示每次写入都执行fsync,以保证数据同步到磁盘。
172 #everysec表示每秒执行一次fsync,可能会导致丢失这1s数据。
173 appendfsync everysec
174
175 # 在aof重写或者写入rdb文件的时候,会执行大量IO,此时对于everysec和always的aof模式来说,执行fsync会造成阻塞过长时间,no-appendfsync-on-rewrite字段设置为默认设置为no。如果对延迟要求很高的应用,这个字段可以设置为yes,否则还是设置为no,这样对持久化特性来说这是更安全的选择。设置为yes表示rewrite期间对新写操作不fsync,暂时存在内存中,等rewrite完成后再写入,默认为no,建议yes。Linux的默认fsync策略是30秒。可能丢失30秒数据。
176 no-appendfsync-on-rewrite no
177
178 #aof自动重写配置。当目前aof文件大小超过上一次重写的aof文件大小的百分之多少进行重写,即当aof文件增长到一定大小的时候Redis能够调用bgrewriteaof对日志文件进行重写。当前AOF文件大小是上次日志重写得到AOF文件大小的二倍(设置为100)时,自动启动新的日志重写过程。
179 auto-aof-rewrite-percentage 100
180 #设置允许重写的最小aof文件大小,避免了达到约定百分比但尺寸仍然很小的情况还要重写
181 auto-aof-rewrite-min-size 64mb
182
183 #aof文件可能在尾部是不完整的,当redis启动的时候,aof文件的数据被载入内存。重启可能发生在redis所在的主机操作系统宕机后,尤其在ext4文件系统没有加上data=ordered选项(redis宕机或者异常终止不会造成尾部不完整现象。)出现这种现象,可以选择让redis退出,或者导入尽可能多的数据。如果选择的是yes,当截断的aof文件被导入的时候,会自动发布一个log给客户端然后load。如果是no,用户必须手动redis-check-aof修复AOF文件才可以。
184 aof-load-truncated yes
185
186 ################################ LUA SCRIPTING ###############################
187 # 如果达到最大时间限制(毫秒),redis会记个log,然后返回error。当一个脚本超过了最大时限。只有SCRIPT KILL和SHUTDOWN NOSAVE可以用。第一个可以杀没有调write命令的东西。要是已经调用了write,只能用第二个命令杀。
188 lua-time-limit 5000
189
190 ################################ REDIS CLUSTER ###############################
191 #集群开关,默认是不开启集群模式。
192 # cluster-enabled yes
193
194 #集群配置文件的名称,每个节点都有一个集群相关的配置文件,持久化保存集群的信息。这个文件并不需要手动配置,这个配置文件有Redis生成并更新,每个Redis集群节点需要一个单独的配置文件,请确保与实例运行的系统中配置文件名称不冲突
195 # cluster-config-file nodes-6379.conf
196
197 #节点互连超时的阀值。集群节点超时毫秒数
198 # cluster-node-timeout 15000
199
200   #在进行故障转移的时候,全部slave都会请求申请为master,但是有些slave可能与master断开连接一段时间了,导致数据过于陈旧,这样的slave不应该被提升为master。该参数就是用来判>断slave节点与master断线的时间是否过长。判断方法是:
201   #比较slave断开连接的时间和(node-timeout * slave-validity-factor) + repl-ping-slave-period
202   #如果节点超时时间为三十秒, 并且slave-validity-factor为10,假设默认的repl-ping-slave-period是10秒,即如果超过310秒slave将不会尝试进行故障转移
203   #可能出现由于某主节点失联却没有从节点能顶上的情况,从而导致集群不能正常工作,在这种情况下,只有等到原来的主节点重新回归到集群,集群才恢复运作
204   #如果设置成0,则无论从节点与主节点失联多久,从节点都会尝试升级成主节
205   # cluster-slave-validity-factor 10
206   #master的slave数量大于该值,slave才能迁移到其他孤立master上,如这个参数若被设为2,那么只有当一个主节点拥有2 个可工作的从节点时,它的一个从节点会尝试迁移。
207   #主节点需要的最小从节点数,只有达到这个数,主节点失败时,它从节点才会进行迁移。
208   # cluster-migration-barrier 1
209   #默认情况下,集群全部的slot有节点分配,集群状态才为ok,才能提供服务。设置为no,可以在slot没有全部分配的时候提供服务。不建议打开该配置,这样会造成分区的时候,小分区的mster一直在接受写请求,而造成很长时间数据不一致。
210   #在部分key所在的节点不可用时,如果此参数设置为”yes”(默认值), 则整个集群停止接受操作;如果此参数设置为”no”,则集群依然为可达节点上的key提供读操作
211   # cluster-require-full-coverage yes
212 ################################## SLOW LOG ###################################
213 ###slog log是用来记录redis运行中执行比较慢的命令耗时。当命令的执行超过了指定时间,就记录在slow log中,slog log保存在内存中,所以没有IO操作。
214 #执行时间比slowlog-log-slower-than大的请求记录到slowlog里面,单位是微秒,所以1000000就是1秒。注意,负数时间会禁用慢查询日志,而0则会强制记录所有命令。
215 slowlog-log-slower-than 10000
216
217 #慢查询日志长度。当一个新的命令被写进日志的时候,最老的那个记录会被删掉。这个长度没有限制。只要有足够的内存就行。你可以通过 SLOWLOG RESET 来释放内存。
218 slowlog-max-len 128
219
220 ################################ LATENCY MONITOR ##############################
221 #延迟监控功能是用来监控redis中执行比较缓慢的一些操作,用LATENCY打印redis实例在跑命令时的耗时图表。只记录大于等于下边设置的值的操作。0的话,就是关闭监视。默认延迟监控功能是关闭的,如果你需要打开,也可以通过CONFIG SET命令动态设置。
222 latency-monitor-threshold 0
223
224 ############################# EVENT NOTIFICATION ##############################
225 #键空间通知使得客户端可以通过订阅频道或模式,来接收那些以某种方式改动了 Redis 数据集的事件。因为开启键空间通知功能需要消耗一些 CPU ,所以在默认配置下,该功能处于关闭状态。
226 #notify-keyspace-events 的参数可以是以下字符的任意组合,它指定了服务器该发送哪些类型的通知:
227 ##K 键空间通知,所有通知以 [email protected]__ 为前缀
228 ##E 键事件通知,所有通知以 [email protected]__ 为前缀
229 ##g DEL 、 EXPIRE 、 RENAME 等类型无关的通用命令的通知
230 ##$ 字符串命令的通知
231 ##l 列表命令的通知
232 ##s 集合命令的通知
233 ##h 哈希命令的通知
234 ##z 有序集合命令的通知
235 ##x 过期事件:每当有过期键被删除时发送
236 ##e 驱逐(evict)事件:每当有键因为 maxmemory 政策而被删除时发送
237 ##A 参数 g$lshzxe 的别名
238 #输入的参数中至少要有一个 K 或者 E,否则的话,不管其余的参数是什么,都不会有任何 通知被分发。详细使用可以参考http://redis.io/topics/notifications
239
240 notify-keyspace-events ""
241
242 ############################### ADVANCED CONFIG ###############################
243 #数据量小于等于hash-max-ziplist-entries的用ziplist,大于hash-max-ziplist-entries用hash
244 hash-max-ziplist-entries 512
245 #value大小小于等于hash-max-ziplist-value的用ziplist,大于hash-max-ziplist-value用hash。
246 hash-max-ziplist-value 64
247
248 #数据量小于等于list-max-ziplist-entries用ziplist,大于list-max-ziplist-entries用list。
249 list-max-ziplist-entries 512
250 #value大小小于等于list-max-ziplist-value的用ziplist,大于list-max-ziplist-value用list。
251 list-max-ziplist-value 64
252
253 #数据量小于等于set-max-intset-entries用iniset,大于set-max-intset-entries用set。
254 set-max-intset-entries 512
255
256 #数据量小于等于zset-max-ziplist-entries用ziplist,大于zset-max-ziplist-entries用zset。
257 zset-max-ziplist-entries 128
258 #value大小小于等于zset-max-ziplist-value用ziplist,大于zset-max-ziplist-value用zset。
259 zset-max-ziplist-value 64
260
261 #value大小小于等于hll-sparse-max-bytes使用稀疏数据结构(sparse),大于hll-sparse-max-bytes使用稠密的数据结构(dense)。一个比16000大的value是几乎没用的,建议的value大概为3000。如果对CPU要求不高,对空间要求较高的,建议设置到10000左右。
262 hll-sparse-max-bytes 3000
263
264 #Redis将在每100毫秒时使用1毫秒的CPU时间来对redis的hash表进行重新hash,可以降低内存的使用。当你的使用场景中,有非常严格的实时性需要,不能够接受Redis时不时的对请求有2毫秒的延迟的话,把这项配置为no。如果没有这么严格的实时性要求,可以设置为yes,以便能够尽可能快的释放内存。
265 activerehashing yes
266
267 ##对客户端输出缓冲进行限制可以强迫那些不从服务器读取数据的客户端断开连接,用来强制关闭传输缓慢的客户端。
268 #对于normal client,第一个0表示取消hard limit,第二个0和第三个0表示取消soft limit,normal client默认取消限制,因为如果没有寻问,他们是不会接收数据的。
269 client-output-buffer-limit normal 0 0 0
270 #对于slave client和MONITER client,如果client-output-buffer一旦超过256mb,又或者超过64mb持续60秒,那么服务器就会立即断开客户端连接。
271 client-output-buffer-limit slave 256mb 64mb 60
272 #对于pubsub client,如果client-output-buffer一旦超过32mb,又或者超过8mb持续60秒,那么服务器就会立即断开客户端连接。
273 client-output-buffer-limit pubsub 32mb 8mb 60
274
275 #redis执行任务的频率为1s除以hz。
276 hz 10
277
278 #在aof重写的时候,如果打开了aof-rewrite-incremental-fsync开关,系统会每32MB执行一次fsync。这对于把文件写入磁盘是有帮助的,可以避免过大的延迟峰值。
279 aof-rewrite-incremental-fsync yes

四、文件结构分析

 1 main:(主程序)
 2 1.redis.c redis服务端程序
 3 2.redis_cli.c redis客户端程序
 4
 5 net:(网络)
 6 1.anet.c 作为Server/Client通信的基础封装
 7 2.networking.c 网络协议传输方法定义相关的都放在这个文件里面了。
 8
 9 struct:(结构体)
10 1.adlist.c 用于对list的定义,它是个双向链表结构
11 2.dict.c 主要对于内存中的hash进行管理
12 3.sds.c 用于对字符串的定义
13 4.sparkline.c 一个拥有sample列表的序列
14 5.t_hash.c hash在Server/Client中的应答操作。主要通过redisObject进行类型转换。
15 6.t_list.c list在Server/Client中的应答操作。主要通过redisObject进行类型转换。
16 7.t_set.c  set在Server/Client中的应答操作。主要通过redisObject进行类型转换。
17 8.t_string.c string在Server/Client中的应答操作。主要通过redisObject进行类型转换。
18 9.t_zset.c zset在Server/Client中的应答操作。主要通过redisObject进行类型转换。
19 10.ziplist.c  ziplist是一个类似于list的存储对象。它的原理类似于zipmap。
20 11.zipmap.c  zipmap是一个类似于hash的存储对象。
21
22 event:(事件)
23 1.ae.c 用于Redis的事件处理,包括句柄事件和超时事件。
24 2.ae_epoll.c 实现了epoll系统调用的接口
25 3.ae_evport.c 实现了evport系统调用的接口
26 4.ae_kqueue.c 实现了kqueuex系统调用的接口
27 5.ae_select.c 实现了select系统调用的接口
28
29 data:(数据操作)
30 1.aof.c 全称为append only file,作用就是记录每次的写操作,在遇到断电等问题时可以用它来恢复数据库状态。
31 2.config.c 用于将配置文件redis.conf文件中的配置读取出来的属性通过程序放到server对象中。
32 3.db.c对于Redis内存数据库的相关操作。
33 4.multi.c用于事务处理操作。
34 5.rdb.c  对于Redis本地数据库的相关操作,默认文件是dump.rdb(通过配置文件获得),包括的操作包括保存,移除,查询等等。
35 6.replication.c 用于主从数据库的复制操作的实现。
36
37 tool:(工具)
38 1.bitops.c 位操作相关类
39 2.debug.c 用于调试时使用
40 3.endianconv.c 高低位转换,不同系统,高低位顺序不同
41 4.help.h  辅助于命令的提示信息
42 5.lzf_c.c 压缩算法系列
43 6.lzf_d.c  压缩算法系列
44 7.rand.c 用于产生随机数
45 8.release.c 用于发步时使用
46 9.sha1.c sha加密算法的实现
47 10.util.c  通用工具方法
48 11.crc64.c 循环冗余校验
49
50 baseinfo:(基本信息)
51 1.asciilogo,c redis的logo显示
52 2.version.h定有Redis的版本号
53
54 compatible:(兼容)
55 1.fmacros.h 兼容Mac系统下的问题
56 2.solarisfixes.h 兼容solary下的问题
57
58 wrapper:(封装类)
59 1.bio.c background I/O的意思,开启后台线程用的
60 2.hyperloglog.c 一种日志类型的
61 3.intset.c  整数范围内的使用set,并包含相关set操作。
62 4.latency.c 延迟类
63 5.migrate.c 命令迁移类,包括命令的还原迁移等
64 6.notify.c 通知类
65 7.object.c  用于创建和释放redisObject对象
66 8.pqsort.c  排序算法类
67 9.pubsub.c 用于订阅模式的实现,有点类似于Client广播发送的方式。
68 10.rio.c redis定义的一个I/O类
69 11.slowlog.c 一种日志类型的,与hyperloglog.c类似
70 12.sort.c 排序算法类,与pqsort.c使用的场景不同
71 13.syncio.c 用于同步Socket和文件I/O操作。
72 14.zmalloc.c 关于Redis的内存分配的封装实现
时间: 2024-10-26 17:55:55

redis源码分析(1)--makefile和目录结构分析的相关文章

redis 源码分析(一) 内存管理

一,redis内存管理介绍 redis是一个基于内存的key-value的数据库,其内存管理是非常重要的,为了屏蔽不同平台之间的差异,以及统计内存占用量等,redis对内存分配函数进行了一层封装,程序中统一使用zmalloc,zfree一系列函数,其对应的源码在src/zmalloc.h和src/zmalloc.c两个文件中,源码点这里. 二,redis内存管理源码分析 redis封装是为了屏蔽底层平台的差异,同时方便自己实现相关的函数,我们可以通过src/zmalloc.h 文件中的相关宏定义

redis源码分析4---结构体---跳跃表

redis源码分析4---结构体---跳跃表 跳跃表是一种有序的数据结构,他通过在每个节点中维持多个指向其他节点的指针,从而达到快速访问节点的目的: 跳跃表支持平均O(logN),最坏O(N)复杂度的节点查找,还可以通过顺序性操作来批量处理节点.性能上和平衡树媲美,因为事先简单,常用来代替平衡树. 在redis中,只在两个地方使用了跳跃表,一个是实现有序集合键,另一个是在集群节点中用作内部数据结构. 1 跳跃表节点 1.1 层 层的数量越多,访问其他节点的速度越快: 1.2 前进指针 遍历举例

redis源码分析3---结构体---字典

redis源码分析3---结构体---字典 字典,简单来说就是一种用于保存键值对的抽象数据结构: 注意,字典中每个键都是独一无二的:在redis中,内部的redis的数据库就是使用字典作为底层实现的: 1 字典的实现 在redis中,字典是使用哈希表作为底层实现的,一个hash表里面可以有多个hash表节点,而每个hash表节点就保存了字典中的一个键值对: hash表定义 table属性是一个数组,数组中的每个元素都是一个指向dictEntry结构的指针,每个dictEntry结构保存着一个键值

redis源码分析之事务Transaction(下)

接着上一篇,这篇文章分析一下redis事务操作中multi,exec,discard三个核心命令. 原文地址:http://www.jianshu.com/p/e22615586595 看本篇文章前需要先对上面文章有所了解: redis源码分析之事务Transaction(上) 一.redis事务核心命令简介 redis事务操作核心命令: //用于开启事务 {"multi",multiCommand,1,"sF",0,NULL,0,0,0,0,0}, //用来执行事

redis源码分析之内存布局

redis源码分析之内存布局 1. 介绍 众所周知,redis是一个开源.短小.高效的key-value存储系统,相对于memcached,redis能够支持更加丰富的数据结构,包括: 字符串(string) 哈希表(map) 列表(list) 集合(set) 有序集(zset) 主流的key-value存储系统,都是在系统内部维护一个hash表,因为对hash表的操作时间复杂度为O(1).如果数据增加以后,导致冲突严重,时间复杂度增加,则可以对hash表进行rehash,以此来保证操作的常量时

Redis源码分析(一)--Redis结构解析

从今天起,本人将会展开对Redis源码的学习,Redis的代码规模比较小,非常适合学习,是一份非常不错的学习资料,数了一下大概100个文件左右的样子,用的是C语言写的.希望最终能把他啃完吧,C语言好久不用,快忘光了.分析源码的第一步,先别急着想着从哪开始看起,先浏览一下源码结构,可以模块式的渐入,不过比较坑爹的是,Redis的源码全部放在在里面的src目录里,一下90多个文件统统在里面了,所以我选择了拆分,按功能拆分,有些文件你看名字就知道那是干什么的.我拆分好后的而结果如下: 11个包,这样每

Redis源码分析(四)-- sds字符串

今天分析的是Redis源码中的字符串操作类的代码实现.有了上几次的分析经验,渐渐觉得我得换一种分析的方法,如果每个API都进行代码分析,有些功能性的重复,导致分析效率的偏低.所以下面我觉得对于代码的分析偏重的是一种功能整体的思维实现来讲解,其中我也会挑出一个比较有特点的方法进行拆分了解,这也可以让我们见识一下里面的一些神奇的代码.好,回归正题,说到字符串,这不管放到哪个编程语言中,都是使用频率极高的操作类.什么new String, concat, strcopy,substr, splitSt

redis源码分析之事务Transaction(上)

这周学习了一下redis事务功能的实现原理,本来是想用一篇文章进行总结的,写完以后发现这块内容比较多,而且多个命令之间又互相依赖,放在一篇文章里一方面篇幅会比较大,另一方面文章组织结构会比较乱,不容易阅读.因此把事务这个模块整理成上下两篇文章进行总结. 原文地址:http://www.jianshu.com/p/acb97d620ad7 这篇文章我们重点分析一下redis事务命令中的两个辅助命令:watch跟unwatch. 一.redis事务辅助命令简介 依然从server.c文件的命令表中找

Redis源码分析(二十三)--- CRC循环冗余算法和RAND随机数算法

今天开始研究Redis源码中的一些工具类的代码实现,工具类在任何语言中,实现的算法原理应该都是一样的,所以可以借此机会学习一下一些比较经典的算法.比如说我今天看的Crc循环冗余校验算法和rand随机数产生算法. CRC算法全称循环冗余校验算法.CRC校验的基本思想是利用线性编码理论,在发送端根据要传送的k位二进制码序列,以一定的规则产生一个校验用的监督码(既CRC码)r位,并附在信息后边,构成一个新的二进制码序列数共(k+r)位,最后发送出去.在接收端, 则根据信息码和CRC码之间所遵循的规则进