专栏名称: 朱小厮的博客
著有畅销书:《深入理解Kafka》和《RabbitMQ实战指南》。公众号主要用来分享Java技术栈、Golang技术栈、消息中间件(如Kafka、RabbitMQ)、存储、大数据以及通用型技术架构等相关的技术。
目录
相关文章推荐
进出口银行  ·  助民企 赋新能 | ... ·  13 小时前  
深圳特区报  ·  真棒!深圳勇夺这些“第一” ·  17 小时前  
深圳特区报  ·  一图读懂深圳市政协常委会工作报告 ·  昨天  
51好读  ›  专栏  ›  朱小厮的博客

如何正确访问Redis中的海量数据?服务才不会挂掉!

朱小厮的博客  · 公众号  ·  · 2019-06-08 17:02

正文

点击上方“ 朱小厮的博客 ”,选择“ 设为星标

做积极的人,而不是积极废人


来源:https://dwz.cn/pm3pI6MZ

一、前言

有时候我们需要知道线上的Redis的使用情况,尤其需要知道一些 前缀的key值 ,让我们怎么去查看呢?并且通常情况下Redis里的数据都是海量的,那么我们访问Redis中的海量数据?如何避免事故产生!今天就给大家分享一个小知识点,希望大家轻喷。

二、事故产生

因为我们的用户 token缓存是采用了【user_token:userid】格式的key ,保存用户的token的值。我们运维为了帮助开发小伙伴们查一下线上现在有多少登录用户。

直接用了 keys user_token* 方式进行查询,事故就此发生了。 导致Redis不可用,假死。

三、分析原因

我们线上的登录用户有几百万,数据量比较多; keys算法是遍历算法,复杂度是O(n) ,也就是数据越多,时间越高。

数据量达到几百万, keys这个指令就会导致 Redis 服务卡顿,因为 Redis 是单线程程序,顺序执行所有指令,其它指令必须等到当前的 keys 指令执行完了才可以继续

四、解决方案

那我们如何去遍历大数据量呢?这个也是面试经常问的。我们可以采用Redis的另一个命令scan。我们看一下scan的特点:

  • 复杂度虽然也是 O(n),但是它是通过游标分步进行的,不会阻塞线程

  • 提供 count 参数,不是结果数量,是Redis单次遍历字典槽位数量(约等于)

  • 同 keys 一样,它也提供模式匹配功能;

  • 服务器不需要为游标保存状态,游标的唯一状态就是 scan 返回给客户端的游标整数;

  • 返回的结果可能会有重复,需要客户端去重复,这点非常重要;

  • 单次返回的结果是空的并不意味着遍历结束,而要看返回的游标值是否为零

4.1、scan命令格式

4.2、命令解释

scan 游标 MATCH count 每次迭代所返回的元素数量

  • SCAN命令是增量的循环,每次调用只会返回一小部分的元素。所以不会让Redis假死;

  • SCAN命令返回的是一个游标,从0开始遍历,到0结束遍历;

4.3、举例

从0开始遍历,返回了游标6,又返回了数据,继续scan遍历,就要从6开始

五、总结

这个是面试经常会问到的,也是我们小伙伴在工作的过程经常用的,一般数据量不大的时候,不会有什么问题,但数据量多的时候,你的操作方式不对,你的绩效就会被扣哦。

想知道更多? 描下面的二维码关注我

好文推荐:







请到「今天看啥」查看全文