12.23 布隆过滤器原理以及Golang下的简单实现

摘要:


判断目标值是否在一个大的集合中是比较常见的业务场景,相应的解决方案有很多,比如大的Hash表、Byte数组、BitSet等方案。当集合非常大的时候,这些方案在内存占用方面都比较大。BitSet方案相对比较可行。

BloomFilter是解决这种问题最好的方案,它在内存占用、查询性能等方面都是最优秀的,但是它有一定的误判概率,这种误判概率是可以接受的。


假设我们有这样的一个业务逻辑:

我们有一个网站,并且网站的流量和独立用户数非常大。当有用户访问我们网站的时候,我们需要判断该用户是否是第一次访问我们的网站。这是一个很场景的业务场景,我们可以想到以下两种方案来解决该问题。

布隆过滤器原理以及Golang下的简单实现

一、Hash表来存储每个用户的IP

当有用户访问网站发送请求的时候,我们把用户的IP存到一张Hash表中。当有用户发送访问请求的时候,我们先去Hash表中找该IP,如果可以找到,则证明用户访问过。Hash表的存取时间复杂度都是O(1),效率很高。


这种方案看似没什么问题,但是前提是网站的独立用户数不大。如果网站的独立用户数非常大,我们假设达到了1个亿。那这1个亿的IP Hash值需要多大的内存空间呢?每个ip的长度是15,一共需要15 * 100000000 = 1500000000Bytes = 1.4G,这还没考虑hash冲突的问题(hash表中的槽位越多,越浪费空间,槽位越少,效率越低)。

布隆过滤器原理以及Golang下的简单实现


二、IP转换成无符号的int型值来存储

Hash表占用太大的内存空间,为了节省内存空间。我们可以把ip转换成无符号的int型值来存储,这样一个ip只需要占用4个字节就行了,这时1亿个ip占用的空间是4 * 100000000 = 400000000Bytes = 380M,空间消耗降低了很多。

布隆过滤器原理以及Golang下的简单实现

除了以上两种方法,我们还有没有其其它更好的方法呢?有,BitSet。

三、BitSet

32位无符号int型能表示的最大值是4294967295,所有的ip都在这个范围内,我们可以用一个bit位来表示某个ip是否出现过,如果出现过,就把代表该ip的bit位置为1,那么我们最多需要429496729个bit就可以表示所有的ip了


举个例子比如127.0.0.1转换成int是167772161,那么把长度为4294967295的bit数组的第167772161个位置置为1即可,当有ip访问时,只需要检查该标志位是否为1就行了。


<code>4294967295bit = 536870912Byte = 512M/<code>

如果用hash表示所有4294967295范围内的数组的话,需要十几G的空间。

我们来看看BitSet具体怎样实现。

首先,比如我们有一个长度=2的byte数组,2个字节一共有16位,可以表示0-15的数字是否存在。比如我们要验证11是否出现过,那么我们先检查第11个位置是否为1,如果为0,说明11没出现过,然后我们把第11位置为1,表示11已经出现过了


布隆过滤器原理以及Golang下的简单实现


所以,BitSet基本只有两个操作,set(int value) 和 isHas(int value)


  • set(int value)

我们先来看set怎么实现,因为一个byte占8位,所以对于一个给定的value,我们先求出该value应该位于哪个Byte上,这很简单,

<code> int byteIndex = value / 8/<code>

找到value在byte数组中的位置后,再就是在该字节中寻找表示value的bit位,我们知道,一个byte其实就是一个长为8的bit数组,那么value在该bit数组中的位置也就很好算了

<code>int bitIndex = value % 8;/<code>

最后我们把该bit位设置为1就可以了

<code>byte[byteIndex] = byte[byteIndex] | 1 << ( 7 - bitIndex)

/<code>
<code>public void set(int value){

int byteIndex = value / 8;

int bitIndex = value % 8;

byte[byteIndex] = byte[byteIndex] | 1 << (7 - bitIndex)

}/<code>
  • isHas(int value)
<code>public boolean isHash(int value){

int byteIndex = value / 8;

int bitIndex = value % 8;

return byte[byteIndex] & 1 << (7 - bitIndex) > 0


}/<code>


BitSet的局限性

BitSet有两个比较局限的地方:

  • 当样本分布极度不均匀的时候,BitSet会造成很大空间上的浪费。

举个例子,比如你有10个数,分别是1、2、3、4、5、6、7、8、99999999999;那么你不得不用99999999999个bit位去实现你的BitSet,而这个BitSet的中间绝大多数位置都是0,并且永远不会用到,这显然是极度不划算的。

  • 当元素不是整型的时候,BitSet就不适用了。

想想看,你拿到的是一堆url,然后如果你想用BitSet做去重的话,先得把url转换成int型,在转换的过程中难免某些url会计算出相同的int值,于是BitSet的准确性就会降低。

那针对这两种情况有没有解决办法呢?

  • 第一种分布不均匀的情况可以通过hash函数,将元素都映射到一个区间范围内,减少大段区间闲置造成的浪费,这很简单,取模就好了,难的是取模之后的值保证不相同,即不发生hash冲突。
  • 第二种情况,把字符串映射成整数是必要的,那么唯一要做的就是保证我们的hash函数尽可能的减少hash冲突,一次不行我就多hash几次,hash还是容易碰撞,那我就扩大数组的范围,使hash值尽可能的均匀分布,减少hash冲突的概率。

基于这种思想,BloomFilter诞生了。

BloomFilter

BloomFiler又叫布隆过滤器,下面举例说明BlooFilter的实现原理:

比如你有10个Url,你完全可以创建一长度是100bit的数组,然后对url分别用5个不同的hash函数进行hash,得到5个hash后的值,这5个值尽可能的保证均匀分布在100个bit的范围内。然后把5个hash值对应的bit位都置为1,判

断一个url是否已经存在时,一次看5个bit位是否为1就可以了,如果有任何一个不为1,那么说明这个url不存在。这里需要注意的是,如果对应的bit位值都为1,那么也不能肯定这个url一定存在,这个是BloomFilter的特点之一。

布隆过滤器原理以及Golang下的简单实现


BloomFilter的核心思想有两点:

  • 多个hash,增大随机性,减少hash碰撞的概率。
  • 扩大数组范围,使hash值均匀分布,进一步减少hash碰撞的概率。

BloomFilter的准确性

尽管BloomFilter已经尽可能的减小hash碰撞的概率了,但是,并不能彻底消除,因此正如上面提到的:

  • 如果对应的bit位值都为1,那么也不能肯定这个url一定存在。
  • BloomFilter其实是存在一定的误判的,这个误判的概率显然和数组的大小以及hash函数的个数以及每个hash函数本身的好坏有关。不过这种误判概率还是比较小的,空间利用率也很高。


BloomFilter的应用

  • 黑名单

比如邮件黑名单过滤器,判断邮件地址是否在黑名单中

  • 排序(仅限于BitSet)

BitSet在set(int value)的时候,“顺便”把value也给排序了。

  • 网络爬虫

判断某个URL是否已经被爬取过

  • K-V系统快速判断某个key是否存在

典型的例子有Hbase,Hbase的每个Region中都包含一个BloomFilter,用于在查询时快速判断某个key在该region中是否存在,如果不存在,直接返回,节省掉后续的查询。

布隆过滤器原理以及Golang下的简单实现

BloomFilter Golang代码实现:


  • 1、定义BloomFilter以及Hash方法
布隆过滤器原理以及Golang下的简单实现


  • 2、初始化BloomFilter
布隆过滤器原理以及Golang下的简单实现


  • 3、定义add方法
布隆过滤器原理以及Golang下的简单实现


  • 4、定义contain方法
布隆过滤器原理以及Golang下的简单实现


最后:

布隆过滤器是一个非常经典的算法,在大数匹配的场景中很有用。如果业务中涉及到判断目标值是否在一个大的集合中,可以考虑选择使用布隆过滤器。


分享到:


相關文章: