经验首页 前端设计 程序设计 Java相关 移动开发 数据库/运维 软件/图像 大数据/云计算 其他经验
当前位置:技术经验 » 数据库/运维 » Redis » 查看文章
Redis中pop出队列多个元素思考
来源:jb51  时间:2022/5/23 10:36:34  对本文有异议

最近,在工作中遇到了一个关于Redis中list集合一次性pop所有数据的问题,相信很多小伙伴也会碰到拿到同样的问题,所以就拿出来聊一聊了。

业务场景及问题的提出

业务的情景是这样的,服务A 是面向客户的服务,主要是用了Redis作为存储的,而服务B是面向业务人员使用的,服务A 的数据服务B 是需要拿到的,所以我会把每次服务A 的请求参数放到一个Redis的队列中,而服务B 会起一个线程来定时的获取我队列的数据,其实这里涉及到了一个简易RPC框架的设计,下篇文章会来聊一聊我们这个简易RPC 框架的设计变迁,大致的架构如下:

所以现在问题就来了,内部的定时服务如果一次pop一个那性能可就太差了,所以现在我们就需要支持一个可以自定义pop出队列元素个数的方法,而redis本身是没有这种方法的,所以得我们自己来设计,一起来聊一聊吧。

解决方案

1.多次请求

这应该是正常人都可以想到的办法了,任何问题都可以使用一个for循环来解决,如果不行,那就再来一个for循环,我们来看下这个简单的代码:

  1. public List<String> multiRPopForCycle(String key, int size) {
  2. // 获取当前队列里的值
  3. int curSize = Math.toIntExact(redisTemplate.opsForList().size(key));
  4. if (curSize == 0) {
  5. return Collections.emptyList();
  6. }
  7. // 最终可以取出的数量
  8. int finalSize = Math.toIntExact(Math.min(curSize, size));
  9. List<String> resultList = new ArrayList<>();
  10. for (int i = 0; i < finalSize; i++) {
  11. String popElement = redisTemplate.opsForList().rightPop(key);
  12. resultList.add(popElement);
  13. }
  14. return resultList;
  15. }

这个代码写出来很简单,但是它好危险啊,如果我们需要pop出的数据很多怎么办,每次都需要进行通信,这来来回回就会产生很多时耗,上生产我们是没办法接受的,所以必须改进。 因为pop出多个元素,我们不可避免的需要进行for循环进行pop然后收集返回,也就是说我们需要执行多次redis的pop命令,为了减少通信时耗,我们可以一次性将所有的命令都发过去,一起执行,而实现这种方案我们有以下两种方法:

2.利用Redis事务

利用redis的事务来实现:拿到连接后,开启事务,然后进行执行pop命令,代码如下:

  1. /**
  2. * 通过事务机制来pop出多个元素
  3. *
  4. * @param key 键
  5. * @param size 需要取出的元素个数
  6. * @return 返回取出的元素集合
  7. */
  8. public List<String> multiRPopTx(String key, int size) {
  9. // 获取当前队列里的值
  10. int curSize = Math.toIntExact(redisTemplate.opsForList().size(key));
  11. if (curSize == 0) {
  12. return Collections.emptyList();
  13. }
  14. // 最终可以取出的数量
  15. int finalSize = Math.toIntExact(Math.min(curSize, size));
  16. // 事务支持
  17. return redisTemplate.execute(new SessionCallback<List<Object>>() {
  18. @Override
  19. public List<Object> execute(RedisOperations redisOperations) throws DataAccessException {
  20. redisOperations.multi();
  21. for (int i = 0; i < finalSize; i++) {
  22. redisOperations.opsForList().rightPop(key);
  23. }
  24. return redisOperations.exec();
  25. }
  26. }).stream().map(obj -> (String) obj).collect(Collectors.toList());
  27. }

3.利用Pipeline

当然了,还可以使用我们之前讲的pipeline来实现:

  1. /**
  2. * 一次性pop出指定数量的数据
  3. *
  4. * @param key 键
  5. * @param size 需要取出的元素个数
  6. * @return 返回取出的元素集合
  7. */
  8. public List<String> multiRPopPipeline(String key, int size) {
  9. // 获取当前队列里的值
  10. int curSize = Math.toIntExact(redisTemplate.opsForList().size(key));
  11. if (curSize == 0) {
  12. return Collections.emptyList();
  13. }
  14. // 判断操作次数
  15. return redisTemplate.executePipelined(new SessionCallback<String>() {
  16. @Override
  17. public String execute(RedisOperations redisOperations) throws DataAccessException {
  18. final int finalSize = Math.toIntExact(Math.min(curSize, size));
  19. for (int i = 0; i < finalSize; i++) {
  20. redisOperations.opsForList().rightPop(key);
  21. }
  22. return null;
  23. }
  24. }).stream().map(obj -> (String) obj).collect(Collectors.toList());
  25. }

其实在我们这种场景中是没必要使用事务的,使用事务还会带来一定的性能损耗,所以最终选择的是方案三,即基于管道来实现pop多个元素。

到此这篇关于Redis中pop出队列多个元素思考的文章就介绍到这了,更多相关Redis pop队列内容请搜索w3xue以前的文章或继续浏览下面的相关文章希望大家以后多多支持w3xue!

 友情链接:直通硅谷  点职佳  北美留学生论坛

本站QQ群:前端 618073944 | Java 606181507 | Python 626812652 | C/C++ 612253063 | 微信 634508462 | 苹果 692586424 | C#/.net 182808419 | PHP 305140648 | 运维 608723728

W3xue 的所有内容仅供测试,对任何法律问题及风险不承担任何责任。通过使用本站内容随之而来的风险与本站无关。
关于我们  |  意见建议  |  捐助我们  |  报错有奖  |  广告合作、友情链接(目前9元/月)请联系QQ:27243702 沸活量
皖ICP备17017327号-2 皖公网安备34020702000426号