淺談布隆過濾器

孙伟业發表於2024-04-10
過濾器

什麼是布隆過濾器

首先，我們需要了解布隆過濾器的概念。
布隆過濾器（Bloom Filter，BF）是一個叫做 Bloom 的老哥於 1970 年提出的。我們可以把它看作由二進位制向量（或者說位陣列）和一系列隨機對映函式（雜湊函式）兩部分組成的資料結構。相比於我們平時常用的 List、Map、Set 等資料結構，它佔用空間更少並且效率更高，但是缺點是其返回的結果是機率性的，而不是非常準確的。理論情況下新增到集合中的元素越多，誤報的可能性就越大。並且，存放在布隆過濾器的資料不容易刪除。
Bloom Filter 會使用一個較大的 bit 陣列來儲存所有的資料，陣列中的每個元素都只佔用 1 bit ，並且每個元素只能是 0 或者 1（代表 false 或者 true），這也是 Bloom Filter 節省記憶體的核心所在。這樣來算的話，申請一個 100w 個元素的位陣列只佔用 1000000Bit / 8 = 125000 Byte = 125000/1024 KB ≈ 122KB 的空間。
淺談布隆過濾器

原理分析

Hash 的問題

講述布隆過濾器的原理之前，我們先思考一下，通常你判斷某個元素是否存在用的是什麼？應該很多人回答 HashSet 吧，確實可以將值對映到 HashSet 的 Key，然後可以在 O(1) 的時間複雜度內返回結果，效率很高。但是 HashSet 的實現也有缺點，例如儲存容量佔比高，考慮到負載因子的存在，通常空間是不能被用滿的，而一旦你的值很多例如上億的時候，那 HashSet 佔據的記憶體大小就變得很可觀了。
還比如說你的資料集儲存在遠端伺服器上，本地服務接受輸入，而資料集非常大不可能一次性讀進記憶體構建 HashSet 的時候，也會存在問題。

布隆過濾器資料結構

布隆過濾器是一個 bit 向量(或者說 bit 陣列)，長這樣：
淺談布隆過濾器
如果我們要對映一個值到布隆過濾器中，我們需要使用多個不同的雜湊函式生成多個雜湊值，並對每個生成的雜湊值指向的 bit 位置 1，例如針對值 “baidu” 和三個不同的雜湊函式分別生成了雜湊值 1、4、7，則上圖轉變為：
淺談布隆過濾器
Ok，我們現在再存一個值 “tencent”，如果雜湊函式返回 3、4、8 的話，圖繼續變為：
淺談布隆過濾器
值得注意的是，4 這個 bit 位由於兩個值的雜湊函式都返回了這個 bit 位，因此它被覆蓋了。
現在我們如果想查詢 “dianping” 這個值是否存在，雜湊函式返回了 1、5、8三個值，結果我們發現 5 這個 bit 位上的值為 0，說明沒有任何一個值對映到這個 bit 位上，因此我們可以很確定地說 “dianping” 這個值不存在。而當我們需要查詢 “baidu” 這個值是否存在的話，那麼雜湊函式必然會返回 1、4、7，然後我們檢查發現這三個 bit 位上的值均為 1，那麼我們可以說 “baidu” 存在了麼？答案是不可以，只能是 “baidu” 這個值可能存在。
這是為什麼呢？答案跟簡單，因為隨著增加的值越來越多，被置為 1 的 bit 位也會越來越多，這樣某個值 “taobao” 即使沒有被儲存過，但是萬一雜湊函式返回的三個 bit 位都被其他值置位了 1 ，那麼程式還是會判斷 “taobao” 這個值存在。

優缺點和注意事項

優缺點：

  1. 優點是執行快，佔用儲存低。
因為元素在在儲存的時候並沒有將值存下，而是將值對映成多個二進位制bit因此佔用空間很小。
在儲存和判斷是否存在的時候是透過hash運算來獲取指定index上的值，因此運算效率高。
  1. 缺點
  • 是對於程式判定存在的情況下有一定的誤判率（當判定為不存在時，肯定是準確的）
  • 不支援刪除操作

注意事項：

  1. 執行效率放到第一位
既然你使用布隆過濾器來加速查詢和判斷是否存在，這個過程中需要用到多個雜湊函式，那麼效能很低的雜湊函式不是個好選擇，推薦 MurmurHash、Fnv 這些。
  1. bit陣列長度、hash函式個數和預存值的微妙關係。
我們假設：
  • n 是已經新增元素的數量；
  • k 雜湊的次數；
  • m 布隆過濾器的長度（如位元陣列的大小）；
我們想想在一中極端情況下，當布隆過濾器沒有空閒空間時（滿），每一次查詢都會返回 true 。這樣就會使得布隆過濾器失去作用。但有趣的是我們透過資料推導能夠計算出隆過濾器的誤判率（FPP）：
淺談布隆過濾器
這也就意味著 m 的選擇取決於期望預計新增元素的數量 n ，並且 m 需要遠遠大於 n 。
很顯然，過小的布隆過濾器很快所有的 bit 位均為 1，那麼查詢任何值都會返回“可能存在”。所以布隆過濾器的長度會直接影響誤報率，布隆過濾器 m 越長其誤報率越小。
另外，雜湊函式的個數 k 也需要權衡，個數越多則布隆過濾器 bit 位置位 1 的速度越快，且布隆過濾器的效率越低；但是如果太少的話，那我們的誤報率會變高。
我們透過資料運算可以得到如下曲線。
淺談布隆過濾器
k 為雜湊函式個數，m 為布隆過濾器長度，n 為插入的元素個數，p 為誤報率
淺談布隆過濾器
因此我們可以透過預期儲存的資料量和最低要求的誤報率來得到我們需要設定的布隆過濾器的長度m，和hash函式的個數k。

應用場景

常見的適用常見有，利用布隆過濾器減少磁碟 IO 或者網路請求，因為一旦一個值必定不存在的話，我們可以不用進行後續昂貴的查詢請求。
在實際工作中，布隆過濾器有很多應用場景：
  • Medium 使用布隆過濾器避免推薦給使用者已經讀過的文章；
  • 布隆過濾器還有一個應用場景就是解決快取穿透的問題。所謂的快取穿透就是服務呼叫方每次都是查詢不在快取中的資料，這樣每次服務呼叫都會到資料庫中進行查詢，如果這類請求比較多的話，就會導致資料庫壓力增大，這樣快取就失去了意義。-> 利用布隆過濾器我們可以預先把資料查詢的主鍵，比如使用者 ID 或文章 ID 快取到過濾器中。當根據 ID 進行資料查詢的時候，我們先判斷該 ID 是否存在，若存在的話，則進行下一步處理。若不存在的話，直接返回(也不去訪問資料庫，而是其他兜底邏輯)，這樣就不會觸發後續的資料庫查詢。需要注意的是快取穿透不能完全解決，我們只能將其控制在一個可以容忍的範圍內。
  • 判斷給定資料是否存在：比如判斷一個數字是否存在於包含大量數字的數字集中（數字集很大，上億）、 防止快取穿透（判斷請求的資料是否有效避免直接繞過快取請求資料庫）等等、郵箱的垃圾郵件過濾（判斷一個郵件地址是否在垃圾郵件列表中）、黑名單功能（判斷一個 IP 地址或手機號碼是否在黑名單中）等等。

程式碼實現

透過 Java 程式設計手動實現布隆過濾器

我們上面已經說了布隆過濾器的原理，知道了布隆過濾器的原理之後就可以自己手動實現一個了。
如果你想要手動實現一個的話，你需要：
  1. 一個合適大小的位陣列儲存資料
  2. 幾個不同的雜湊函式
  3. 新增元素到位陣列（布隆過濾器）的方法實現
  4. 判斷給定元素是否存在於位陣列（布隆過濾器）的方法實現。
下面給出一個不錯的程式碼
import java.util.BitSet;

public class MyBloomFilter {

    /**
     * 位陣列的大小
     */
    private static final int DEFAULT_SIZE = 2 << 24;
    /**
     * 透過這個陣列可以建立 6 個不同的雜湊函式
     */
    private static final int[] SEEDS = new int[]{3, 13, 46, 71, 91, 134};

    /**
     * 位陣列。陣列中的元素只能是 0 或者 1
     */
    private BitSet bits = new BitSet(DEFAULT_SIZE);

    /**
     * 存放包含 hash 函式的類的陣列
     */
    private SimpleHash[] func = new SimpleHash[SEEDS.length];

    /**
     * 初始化多個包含 hash 函式的類的陣列，每個類中的 hash 函式都不一樣
     */
    public MyBloomFilter() {
        // 初始化多個不同的 Hash 函式
        for (int i = 0; i < SEEDS.length; i++) {
            func[i] = new SimpleHash(DEFAULT_SIZE, SEEDS[i]);
        }
    }

    /**
     * 新增元素到位陣列
     */
    public void add(Object value) {
        for (SimpleHash f : func) {
            bits.set(f.hash(value), true);
        }
    }

    /**
     * 判斷指定元素是否存在於位陣列
     */
    public boolean contains(Object value) {
        boolean ret = true;
        for (SimpleHash f : func) {
            ret = ret && bits.get(f.hash(value));
        }
        return ret;
    }

    /**
     * 靜態內部類。用於 hash 操作！
     */
    public static class SimpleHash {

        private int cap;
        private int seed;

        public SimpleHash(int cap, int seed) {
            this.cap = cap;
            this.seed = seed;
        }

        /**
         * 計算 hash 值
         */
        public int hash(Object value) {
            int h;
            return (value == null) ? 0 : Math.abs(seed * (cap - 1) & ((h = value.hashCode()) ^ (h >>> 16)));
        }

    }
}
測試：
String value1 = "https://javaguide.cn/";
String value2 = "https://github.com/Snailclimb";
MyBloomFilter filter = new MyBloomFilter();
System.out.println(filter.contains(value1));
System.out.println(filter.contains(value2));
filter.add(value1);
filter.add(value2);
System.out.println(filter.contains(value1));
System.out.println(filter.contains(value2));
輸出
false
false
true
true

利用 Google 開源的 Guava 中自帶的布隆過濾器

自己實現的目的主要是為了讓自己搞懂布隆過濾器的原理，Guava 中布隆過濾器的實現算是比較權威的，所以實際專案中我們不需要手動實現一個布隆過濾器。
首先我們需要在專案中引入 Guava 的依賴：
<dependency>
    <groupId>com.google.guava</groupId>
    <artifactId>guava</artifactId>
    <version>28.0-jre</version>
</dependency>
實際使用如下：
我們建立了一個最多存放 最多 1500 個整數的布隆過濾器，並且我們可以容忍誤判的機率為百分之（0.01）
// 建立布隆過濾器物件
BloomFilter<Integer> filter = BloomFilter.create(
    Funnels.integerFunnel(),
    1500,
    0.01);
// 判斷指定元素是否存在
System.out.println(filter.mightContain(1));
System.out.println(filter.mightContain(2));
// 將元素新增進布隆過濾器
filter.put(1);
filter.put(2);
System.out.println(filter.mightContain(1));
System.out.println(filter.mightContain(2));
在我們的示例中，當 mightContain() 方法返回 true 時，我們可以 99％確定該元素在過濾器中，當過濾器返回 false 時，我們可以 100％確定該元素不存在於過濾器中。
Guava 提供的布隆過濾器的實現還是很不錯的（想要詳細瞭解的可以看一下它的原始碼實現），但是它有一個重大的缺陷就是隻能單機使用（另外，容量擴充套件也不容易），而現在網際網路一般都是分散式的場景。為了解決這個問題，我們就需要用到 Redis 中的布隆過濾器了。

相關文章