爬虫文件存储-3：Redis

前提条件：

安装并运行redis服务端程序，安装RedisPy库

说明：Redis 是 StrictRedis 的子类，它的主要功能是用于向后兼容旧版本库里的几个方法，官方推荐使用 StrictRedis。

1.连接

# 方法1
from redis import StrictRedis

redis = StrictRedis(host=‘localhost‘,port=6379,db=0,password=‘foobar2000‘)

redis.set(‘name‘, ‘Bob‘)
print(redis.get(‘name‘))

# 方法2
pool = ConnectionPool(host=‘localhost‘, port=6379, db=0, password=‘foobar2000‘)
redis = StrictRedis(connection_pool=pool)
redis.set(‘name‘, ‘Bob‘)
print(redis.get(‘name‘))

“”另外 ConnectionPool 还支持通过 URL 来构建，URL 的格式支持如下三种：redis://[:password]@host:port/dbrediss://[:password]@host:port/dbunix://[:password]@/path/to/socket.sock?db=db这三种 URL 分别表示创建 Redis TCP 连接、Redis TCP+SSL 连接、Redis Unix Socket 连接“”

2.key操作

3.string操作

Redis 中存在最基本的键值对形式存储

4.列表操作

List，即列表。Redis 还提供了列表存储，列表内的元素可以重复，而且可以从两端存储

5.集合操作

Set，即集合。Redis 还提供了集合存储，集合中的元素都是不重复的

6.有序集合

Sorted Set，即有序集合，它相比集合多了一个分数字段，利用它我们可以对集合中的数据进行排序

7.哈希操作

Hash，即哈希。我们可以用name指定一个哈希表的名称，然后表内存储了各个键值对

8.导入/导出

确保已经安装好了 RedisDump，RedisDump 提供两个可执行命令，redis-dump 用于导出数据，redis-load 用于导入数据

redis-dump
我们可以首先输入如下命令查看所有可选项：
redis-dump -h
运行结果如下：
Usage: redis-dump [global options] COMMAND [command options]
    -u, --uri=S                      Redis URI (e.g. redis://hostname[:port])
    -d, --database=S                 Redis database (e.g. -d 15)
    -s, --sleep=S                    Sleep for S seconds after dumping (for debugging)
    -c, --count=S                    Chunk size (default: 10000)
    -f, --filter=S                   Filter selected keys (passed directly to redis‘ KEYS command)
    -O, --without_optimizations      Disable run time optimizations
    -V, --version                    Display version
    -D, --debug
        --nosafe
可以看到其参数，-u 代表 Redis 连接字符串，-d 代表数据库代号，默认全部，-s 代表导出之后的休眠时间，-c 代表分块大小，默认是 10000，-f 代表导出时的过滤器，-O 代表禁用运行时优化，-V 显示版本，-D 开启调试。
我们拿本地的 Redis 做测试，运行在 6379 端口上，密码为 foobared，导出命令如下：
redis-dump -u :[email protected]:6379
如果没有密码的话可以不加密码前缀，命令如下：
redis-dump -u localhost:6379
运行之后可以将本地 0-15号 数据库的所有数据输出出来，例如：
{"db":0,"key":"name","ttl":-1,"type":"string","value":"James","size":5}
{"db":0,"key":"name2","ttl":-1,"type":"string","value":"Durant","size":6}
{"db":0,"key":"name3","ttl":-1,"type":"string","value":"Durant","size":6}
{"db":0,"key":"name4","ttl":-1,"type":"string","value":"HelloWorld","size":10}
{"db":0,"key":"name5","ttl":-1,"type":"string","value":"James","size":5}
{"db":0,"key":"name6","ttl":-1,"type":"string","value":"James","size":5}
{"db":0,"key":"age","ttl":-1,"type":"string","value":"1","size":1}
{"db":0,"key":"age2","ttl":-1,"type":"string","value":"-5","size":2}
每条数据都包含五个字段，db 即数据库代号，key 即键名，ttl 即该键值对的有效时间，type 即键值类型，size 即占用空间。
如果想要将其输出为 Json 行文件，可以使用如下命令：
redis-dump -u :[email protected]:6379 > ./redis_data.jl
这样我们就可以成功将 Redis 的所有数据库的所有数据导出成 Json 行文件了。
另外我们可以使用 -d 参数指定某个数据库的导出，例如只导出 1 号数据库的内容：
redis-dump -u :[email protected]:6379 -d 1 > ./redis.data.jl
如果只想导出特定的内容，如想导出 adsl 开头的数据，可以加入 -f 参数用来过滤，命令如下：
redis-dump -u :[email protected]:6379 -f adsl:* > ./redis.data.jl
其中 -f 的参数即 Redis 的 keys 命令的参数，可以写一些过滤规则。
redis-load
我们同样可以首先输入如下命令查看所有可选项：
redis-load -h
运行结果如下：
redis-load --help
  Try: redis-load [global options] COMMAND [command options]
    -u, --uri=S                      Redis URI (e.g. redis://hostname[:port])
    -d, --database=S                 Redis database (e.g. -d 15)
    -s, --sleep=S                    Sleep for S seconds after dumping (for debugging)
    -n, --no_check_utf8
    -V, --version                    Display version
    -D, --debug
        --nosafe
可以看到其参数，-u 代表 Redis 连接字符串，-d 代表数据库代号，默认全部，-s 代表导出之后的休眠时间，-n 代表不检测 UTF-8 编码，-V 显示版本，-D 开启调试。
我们可以将 Json 行文件导入到 Redis 数据库中：
< redis_data.json redis-load -u :[email protected]:6379
这样就可以成功将 Json 行文件导入到数据库中了。
另外如下命令同样可以达到同样的效果：
cat redis_data.json | redis-load -u :[email protected]:6379

原文地址：https://www.cnblogs.com/sanduzxcvbnm/p/10337306.html