专栏名称: 芋道源码
纯 Java 源码分享公众号,目前有「Dubbo」「SpringCloud」「Java 并发」「RocketMQ」「Sharding-JDBC」「MyCAT」「Elastic-Job」「SkyWalking」「Spring」等等
目录
相关文章推荐
芋道源码  ·  被问懵了,加密后的数据如何进行模糊查询? ·  11 小时前  
芋道源码  ·  Minio + Docker ... ·  11 小时前  
Java编程精选  ·  SpringBoot实现分布式验证码登录方案 ·  3 天前  
51好读  ›  专栏  ›  芋道源码

被问懵了,加密后的数据如何进行模糊查询?

芋道源码  · 公众号  · Java  · 2025-02-23 16:40

主要观点总结

文章介绍了加密数据的模糊查询方法,包括沙雕做法、常规做法和超神做法,并详细解释了各种方法的实现思路、优劣性和使用场景。同时,文章还介绍了一些电商平台的密文字段检索方案,最后推荐了一种基于算法层面的常规做法二作为优化方案。

关键观点总结

关键观点1: 加密数据的模糊查询方法

文章介绍了三种加密数据的模糊查询方法:沙雕做法、常规做法和超神做法,并详细解释了它们的实现思路、优劣性和适用场景。

关键观点2: 沙雕做法的缺点

沙雕做法包括将数据全部解密和建立明文映射表两种方式,但都存在严重的问题。全部解密会导致内存占用巨大,而建立明文映射表则违反了数据加密的安全诉求。

关键观点3: 常规做法的优点和缺点

常规做法包括在数据库中使用加密函数进行解密查询和分词组合加密存储两种方式。优点是实现成本低,但缺点是无法利用数据库索引优化查询,且可能无法与程序实现一致的加解密算法。

关键观点4: 常规做法二的实现思路和优缺点

常规做法二通过对密文数据进行分词组合,将结果集加密后存储到扩展列,利用数据库索引优化查询速度。实现思路较为划算,但需要额外存储成本。

关键观点5: 超神做法的复杂性和挑战

超神做法从算法层面考虑,需要设计新的有序、非不可逆的算法。这需要专业算法工程师深入研究,实现难度较大。

关键观点6: 推荐的做法

文章推荐采用常规做法二,这是一种折中的做法,虽然需要额外的存储成本,但可以利用数据库索引优化查询速度,实现起来不算复杂,使用起来也较为简单。

关键观点7: 其他信息

文章还介绍了一些电商平台的密文字段检索方案,并提供了相关链接供读者参考。最后,文章呼吁读者加入其知识星球,提升技术能力。


正文

👉 这是一个或许对你有用 的社群

🐱 一对一交流/面试小册/简历优化/求职解惑,欢迎加入 芋道快速开发平台 知识星球。 下面是星球提供的部分资料:

👉 这是一个或许对你有用的开源项目

国产 Star 破 10w+ 的开源项目,前端包括管理后台 + 微信小程序,后端支持单体和微服务架构。

功能涵盖 RBAC 权限、SaaS 多租户、数据权限、商城、支付、工作流、大屏报表、微信公众号、CRM 等等功能:

  • Boot 仓库:https://gitee.com/zhijiantianya/ruoyi-vue-pro
  • Cloud 仓库:https://gitee.com/zhijiantianya/yudao-cloud
  • 视频教程:https://doc.iocoder.cn
【国内首批】支持 JDK 21 + SpringBoot 3.2.2、JDK 8 + Spring Boot 2.7.18 双版本

来源:ningyu1.github.io/20201230/
encrypted-data-fuzzy-query.html


我们知道加密后的数据对模糊查询不是很友好,本篇就针对加密数据模糊查询这个问题来展开讲一讲实现的思路,希望对大家有所启发。

为了数据安全我们在开发过程中经常会对重要的数据进行加密存储,常见的有:密码、手机号、电话号码、详细地址、银行卡号、信用卡验证码等信息,这些信息对加解密的要求也不一样,比如说密码我们需要加密存储,一般使用的都是不可逆的慢hash算法,慢hash算法可以避免暴力破解(典型的用时间换安全性)。

在检索时我们既不需要解密也不需要模糊查找,直接使用密文完全匹配,但是手机号就不能这样做,因为手机号我们要查看原信息,并且对手机号还需要支持模糊查找,因此我们今天就针对可逆加解密的数据支持模糊查询来看看有哪些实现方式。

在网上随便搜索了一下,关于《加密后的模糊查询》 的帖子很多,顺便整理了一下实现的方法,不得不说很多都是不靠谱的做法,甚至有一些沙雕做法,接下来我们就对这些做法来讲讲实现思路和优劣性。

如何对加密后的数据进行模糊查询

我整理了一下对加密的数据模糊查询大致分为三类做法,如下所示:

  • 沙雕做法(不动脑思考直男的思路,只管实现功能从不深入思考问题)
  • 常规做法(思考了查询性能问题,也会使用一些存储空间换性能等做法)
  • 超神做法(比较高端的做法从算法层面上思考)

我们就对这三种实现方法一一来讲讲实现思路和优劣性,首先我们先看沙雕做法。

沙雕做法

  • 将所有数据加载到内存中进行解密,解密后通过程序算法来模糊匹配
  • 将密文数据映射一份明文映射表,俗称tag表,然后模糊查询tag来关联密文数据

沙雕一

我们先来看看第一个做法,将所有数据加载到内存中进行解密,这个如果数据量小的话可以使用这个方式来做,这样做既简单又实惠,如果数据量大的话那就是灾难,我们来大致算一下。

一个英文字母(不分大小写)占一个字节的空间,一个中文汉字占两个字节的空间,用DES来举例, 13800138000 加密后的串 HE9T75xNx6c5yLmS5l4r6Q== 占24个字节。

条数 Bytes MB
100w 2400万 22.89
1000w 2.4亿 228.89
1亿 24亿 2288.89

轻则上百兆,重则上千兆,这样分分钟给应用程序整成Out of memory,这样做如果数据少只有几百、几千、几万条时是完全可以这样做的,但是数据量大就强烈不建议了。

沙雕二

我们再来看第二个做法,将密文数据映射一份明文映射表,然后模糊查询映射表来关联密文数据,what???!!!那我们为什么要对数据加密呢,直接不加密不是更好么!

我们既然对数据加密肯定是有安全诉求才会这样做,增加一个明文的映射表就违背了安全诉求,这样做既不安全也不方便完全是脱裤子放x,多此一举,强且不推荐。

常规做法

我们接下来看看常规的做法,也是最广泛使用的方法,此类方法及满足的数据安全性,又对查询友好。

  • 在数据库实现加密算法函数,在模糊查询的时候使用 decode(key) like '%partial%
  • 对密文数据进行分词组合,将分词组合的结果集分别进行加密,然后存储到扩展列,查询时通过 key like '%partial%'

常规一

在数据库中实现与程序一致的加解密算法,修改模糊查询条件,使用数据库加解密函数先解密再模糊查找,这样做的优点是实现成本低,开发使用成本低,只需要将以往的模糊查找稍微修改一下就可以实现,但是缺点也很明显,这样做无法利用数据库的索引来优化查询,甚至有一些数据库可能无法保证与程序实现一致的加解密算法,但是对于常规的加解密算法都可以保证与应用程序一致。

如果对查询性能要求不是特别高、对数据安全性要求一般,可以使用常见的加解密算法比如说AES、DES之类的也是一个不错的选择。

如果公司有自己的算法实现,并且没有提供多端的算法实现,要么找个算法好的人去研究吃透补全多端实现,要么放弃使用这个办法。

常规二

对密文数据进行分词组合,将分词组合的结果集分别进行加密,然后存储到扩展列,查询时通过key like '%partial%',这是一个比较划算的实现方法,我们先来分析一下它的实现思路。

先对字符进行固定长度的分组,将一个字段拆分为多个,比如说根据4位英文字符(半角),2个中文字符(全角)为一个检索条件,举个例子:

ningyu1 使用4个字符为一组的加密方式,第一组ning ,第二组ingy ,第三组ngyu ,第四组gyu1 … 依次类推。

如果需要检索所有包含检索条件4个字符的数据比如:ingy ,加密字符后通过 key like “%partial%” 查库。

我们都知道加密后长度会增长,增长的这部分长度存储就是我们要花费的额外成本,典型的使用成本来换取速度,密文增长的幅度随着算法不同而不同以DES举例, 13800138000 加密前占11个字节,加密后的串 HE9T75xNx6c5yLmS5l4r6Q== 占24个字节,增长是2.18倍,所以一个优秀的算法是多么的重要,能为公司节省不少成本,但是话又说回来算法工程师的工资也不低,所以我也不知道是节省成本还是增加成本,哈哈哈…你们自己算吧。

回到主题,这个方法虽然可以实现加密数据的模糊查询,但是对模糊查询的字符长度是有要求的,以我上面举的例子模糊查询字符原文长度必须大于等于4个英文/数字,或者2个汉字,再短的长度不建议支持,因为分词组合会增多从而导致存储的成本增加,反而安全性降低。

大家是否都对接过 淘宝、拼多多、JD他们的api,他们对平台订单数据中的用户敏感数据就是加密的同时支持模糊查询,使用就是这个方法,下面我整理了几家电商平台的密文字段检索方案的说明,感兴趣的可以查看下面链接。

  • 淘宝密文字段检索方案:https://open.taobao.com/docV3.htm?docId=106213&docType=1
  • 阿里巴巴文字段检索方案:https://jaq-doc.alibaba.com/docs/doc.htm?treeId=1&articleId=106213&docType=1
  • 拼多多密文字段检索方案:https://open.pinduoduo.com/application/document/browse?idStr=3407B605226E77F2
  • 京东密文字段检索方案:https://jos.jd.com/commondoc?listId=345

ps. 基本上都是一样的,果然都是互相抄袭,连加密后的数据格式都一致。

这个方法优点就是实现起来不算复杂,使用起来也较为简单,算是一个折中的做法,因为会有扩展字段存储成本会有升高,但是可利用数据库索引优化查询速度,推荐使用这个方法。

超神做法







请到「今天看啥」查看全文