Redis集群下的mget(Spring RedisTemplate版)

发表于2019-12-07,长度1652, 345个单词, 4分钟读完
Flag Counter

前面《Redis的pipeline和mget》中说了,redis的批量操作命令对集群都不友好,因为Redis的官方集群方案是把key通过crc16计算hash映射到16384个桶上,落到哪个桶上就落到哪个机器上。网上的《缓存无底洞问题》讲了几种在集群下使用mget的方案:一是拆成多次get,二是根据机器节点顺序查询,三是根据节点并行查询,四是使用hash tag。 接下来我们用Spring提供的RedisTemplate进行演示。你可以看到,RedisTemplate使用的就是第三种方案。

我本地起来3个节点构成一个集群(详细的搭建过程参考《Mac 搭建 Redis 集群》),项目指定了地址是:

spring.redis.cluster.nodes=127.0.0.1:17000,127.0.0.1:17001,127.0.0.1:17002

接下来我们直接使用默认方式插入100条数据并获取:

var map = new HashMap<String, String>(100, 1);
for (var i = 1; i <= 100; i++) {
    map.put("cluster_" + i, "c" + i);
}
var start = System.currentTimeMillis();
redisTemplate.opsForValue().multiSet(map);
var medium = System.currentTimeMillis();
List<String> strings = redisTemplate.opsForValue().multiGet(map.keySet());
var end = System.currentTimeMillis();
System.out.println(" \n " + (medium - start) + "\n" + (end - medium));

输出是:

397
17


接下来使用hash tag进行对比:

for (var i = 1; i <= 100; i++) {
    map.put("{cluster}_" + i, "c" + i);
}
start = System.currentTimeMillis();
redisTemplate.opsForValue().multiSet(map);
medium = System.currentTimeMillis();
redisTemplate.opsForValue().multiGet(map.keySet());
end = System.currentTimeMillis();
System.out.println(" \n " + (medium - start) + "\n" + (end - medium));

hash tag就是在key中将一部分字符用大括号包起来做为tag,redis会只把tag进行hash做为key的hash。这样所有的hash都一样,所以会落到同一个节点上。对比代码的输出是:

3
3

可见在插入和查询上效率都提升了很多。

实际上如果是我们自己实现hash tag的查询效率可以更高。因为spring在查询前会对比所有tag的hash是否一致(实际是对比key的hash),当出现不一致时中断对比并走第三种方案:并行查询。否则要对比完所有的key后确定查询在单个节点上。这个对比过程对于我们来说是多余的,因为我们的目的就是让他们在同一个节点。

Spring的这个逻辑可以参考类:org.springframework.data.redis.connection.jedis.JedisClusterStringCommands#mGet

完整的代码在:https://github.com/davelet/redis-lua-101/tree/master/redis-cluster-multi

Written on December 7, 2019
分类: dev, 标签: redis java
如果你喜欢,请赞赏! davelet