宜宾网站建设公司

技术分享|缓存穿透-RedisModule之布隆过滤器-创新互联

作者：贲绍华

为西陵等地区用户提供了全套网页设计制作服务，及西陵网站建设行业解决方案。主营业务为成都做网站、网站制作、西陵网站设计，以传统方式定制建设网站，并提供域名空间备案等一条龙服务，秉承以专业、用心的态度为用户提供真诚的服务。我们深信只要达到每一位用户的要求，就会得到认可，从而选择与我们长期合作。这样，我们也可以走得更远！

爱可生研发中心工程师，负责项目的需求与维护工作。其他身份：柯基铲屎官。

本文来源：原创投稿

*爱可生开源社区出品，原创内容未经授权不得随意使用，转载请联系小编并注明来源。

一、场景案例

假设目前有一后端接口GET /userinfo/100，实际数据库内也只有大ID为100的用户。

对于请求参数100以内当然属于是合法请求，但对于10000这种来说明显就异常的请求一样会进入数据库中进行查询，白白消耗DB资源，这就是——缓存穿透。

二、缓存知识

为了方便阅读此处直接上脑图

2.1 缓存失效的三个场景

2.2 缓存预热

三、Redis的内存回收策略

当Redis实例的内存到达上限时就会触发对应的回收策略

3.1 作为缓存使用时：
  • allkeys-lru: Keeps most recently used keys; removes least recently used (LRU) keys
  • allkeys-lfu: Keeps frequently used keys; removes least frequently used (LFU) keys
  • volatile-lru: Removes least recently used keys with the expire field set to true.
  • volatile-lfu: Removes least frequently used keys with the expire field set to true.
  • allkeys-random: Randomly removes keys to make space for the new data added.
  • volatile-random: Randomly removes keys with expire field set to true.
  • volatile-ttl: Removes keys with expire field set to true and the shortest remaining time-to-live (TTL) value.
3.2 作为数据库使用，确保数据不能丢失
  • Noeviction（默认策略）对于写请求不再提供服务，直接返回错误（DEL请求和部分特殊请求除外）

四、Redis Module - 布隆过滤器（RedisBloom）

下面回到主题场景，业务侧该如何确认流量中大于100或小于0的userID就是非法请求呢，答案就是——记下来，判断一下。

当然数据库那边也是这么做的，不过执行成本并不一样，在更靠近客户端的部分进行处理则会有更高的收益。布隆过滤器就是一个用来确认一个元素是否存在于集合内的工具。

介绍：

布隆过滤器（Bloom Filter）是1970年由布隆提出的。它实际上是一个很长的二进制向量和一系列随机映射函数。

布隆过滤器可以用于检索一个元素是否在一个集合中。它的优点是空间效率和查询时间都比一般的算法要好的多，缺点是有一定的误识别率和删除困难。

特性：
  • 布隆过滤器并不是一个精确统计的东西，两个key可能会算得出同样的值。对于业务来说，当返回某个数据存在与过滤器时，这个数据可能不存在与数据库；当返回某个数据不存在时，那么这个数据一定不存在；
  • 布隆过滤器并不能删除元素（布谷鸟过滤器支持）
原理：

插入一个key，通过k次取模算出每次转换后对应的Bit map槽对应的位置，比如“小明“，通过计算后得出其值在1、7两个槽位。则小明={1,7}，过滤器标记这两个槽位由0变成1，表示已存在映射。

当判断值是否存在时，如果返回的槽位有为0的，则表示数据不存在。之所以说当某个数据存在与过滤器时，这个数据可能不存在与数据库。是因为哈希会产生碰撞，加入此时”李四“也计算除了李四={1,7}。就会出现这种情况（过滤器存在，数据库不存在）

4.1 Redis Module简介：

Redis提供了一个扩展模块的入口，使用户可以根据需要额外集成一些实用功能。

官网连接：https://redis.io/resources/modules

下边列出一些常见的功能模块

4.2 RedisBloom

仓库地址：https://github.com/RedisBloom/RedisBloom

文档地址：https://redis.io/docs/stack/bloom

RedisBloom同时提供了布隆过滤器与布谷鸟过滤器，适用场景如下：

  • 布隆过滤器：插入性能、可伸缩性较好
  • 布谷鸟过滤器：查询性能较好、允许删除集合中的元素
五、案例说明

前置工作略过（下载、编译、加载、重启Redis）

# redis-cli
# BF就是bloom filter的意思，此时有一位新用户注册了，则业务调用Redis client向过滤器内增加一个名字为userid的filter，并向它添加一个101的值
127.0.0.1:6379>BF.ADD userid 101
(integer) 1
# EXISTS命令检查是否存在：1表示存在
127.0.0.1:6379>BF.EXISTS userid 101
(integer) 1
# EXISTS命令检查是否存在：0表示不存在
127.0.0.1:6379>BF.EXISTS userid 102
(integer) 0
# 查看对应filter内的使用情况
127.0.0.1:6379>BF.INFO userid
# 预设容量
 1) Capacity
 2) (integer) 100
# 实际大小
 3) Size
 4) (integer) 296
# 过滤器个数
 5) Number of filters
 6) (integer) 1
# 过滤器内的元素个数
 7) Number of items inserted
 8) (integer) 1
# 子过滤器扩容系数（默认 2）
 9) Expansion rate
10) (integer) 2
127.0.0.1:6379># 更多使用命令介绍见：https://redis.io/commands/?name=bf

在布隆过滤器中没有任何数据时会导致访问全部被拒绝掉，此时需要用到在2.1提到的【缓存预热】来解决这个问题。

布隆过滤器提供了三个配置项，如下：

配置参数是否支持动态调整默认值说明
ERROR_RATE否0.1容错比例，值越低需要的空间越大
INITIAL_SIZE否100默认容量大小
CF_MAX_EXPANSIONS否32布谷鸟过滤器的默认大扩展

六、总结

  • 布隆过滤器或布谷鸟过滤器可以用来解决缓存穿透的问题；
  • 需要注意数据同步（如新增用户时需要在过滤器添加用户ID）与缓存预热（空过滤器启动前需要把已有数据先写入Redis实例）；
  • Redis Module还有许多非常方便使用的功能模块，可以根据需要灵活配置；

你是否还在寻找稳定的海外服务器提供商？创新互联www.cdcxhl.cn海外机房具备T级流量清洗系统配攻击溯源，准确流量调度确保服务器高可用性，企业级服务器适合批量采购，新人活动首月15元起，快前往官网查看详情吧


当前名称：技术分享|缓存穿透-RedisModule之布隆过滤器-创新互联
URL标题：http://ybzwz.com/article/cogiph.html

其他资讯