本文已經收錄到Github倉庫,該倉庫包含計算機基礎、Java基礎、多執行緒、JVM、資料庫、Redis、Spring、Mybatis、SpringMVC、SpringBoot、分散式、微服務、設計模式、架構等核心知識點,歡迎star~
Github地址:https://github.com/Tyson0314/...
Gitee地址:https://gitee.com/tysondai/Ja...
拼多多有數億的使用者,那麼對於某個網頁,怎麼使用Redis來統計一個網站的使用者訪問數呢?
1、Hash
雜湊是Redis的一種基礎資料結構,Redis底層維護的是一個開雜湊,會把不同的key對映到雜湊表上,如果是遇到關鍵字衝突,那麼就會拉出一個連結串列出來。
當一個使用者訪問的時候,如果使用者登陸過,那麼我們就使用使用者的id,如果使用者沒有登陸過,那麼我們也能夠前端頁面隨機生成一個key用來標識使用者
當使用者訪問的時候,我們可以使用HSET命令,key可以選擇URI與對應的日期進行拼湊,field可以使用使用者的id或者隨機標識,value可以簡單設定為1。
當我們要統計某一個網站某一天的訪問量的時候,就可以直接使用HLEN來得到最終的結果了。
優點:簡單,容易實現,查詢也是非常方便,資料準確性非常高。
缺點:佔用記憶體過大。隨著key的增多,效能也會下降。網站訪問量不高還行,拼多多這種數億PV的網站肯定頂不住。
2、Bitset
我們知道,對於一個32位的int,如果我們只用來記錄id,那麼只能夠記錄一個使用者,但如果我們轉成2進位制,每位用來表示一個使用者,那麼我們就能夠一口氣表示32個使用者,空間節省了32倍!
對於有大量資料的場景,如果我們使用bitset,那麼可以節省非常多的記憶體。
對於沒有登陸的使用者,我們也可以使用雜湊演算法,把對應的使用者標識雜湊成一個數字id。bitset非常的節省記憶體,假設有1億個使用者,也只需要100000000/8/1024/1024約等於12兆記憶體。
Redis已經為我們提供了SETBIT的方法,使用起來非常的方便,我們可以看看下面的例子。
我們在item頁面可以不停地使用SETBIT命令,設定使用者已經訪問了該頁面,也可以使用GETBIT的方法查詢某個使用者是否訪問。最後我們透過BITCOUNT可以統計該網頁每天的訪問數量。
優點: 佔用記憶體更小,查詢方便,可以指定查詢某個使用者,資料可能略有瑕疵,對於非登陸的使用者,可能不同的key對映到同一個id,否則需要維護一個非登陸使用者的對映,有額外的開銷。
缺點: 如果使用者非常的稀疏,那麼佔用的記憶體可能比方法一更大。
3、機率演算法
對於拼多多這種多個頁面都可能非常多訪問量的網站,如果所需要的數量不用那麼準確,可以使用機率演算法。
事實上,我們對一個網站的UV的統計,1億跟1億零30萬其實是差不多的。
在Redis中,已經封裝了HyperLogLog演算法,他是一種基數評估演算法。這種演算法的特徵,一般都是資料不存具體的值,而是存用來計算機率的一些相關資料。
當使用者訪問網站的時候,我們可以使用PFADD命令,設定對應的命令,最後我們只要透過PFCOUNT就能順利計算出最終的結果,因為這個只是一個機率演算法,所以可能存在0.81%的誤差。
優點: 佔用記憶體極小,對於一個key,只需要12kb。對於拼多多這種超多使用者的特別適用。
缺點: 查詢指定使用者的時候,可能會出錯,畢竟存的不是具體的資料。總數也存在一定的誤差。
上面就是常見的3種適用Redis統計網站使用者訪問數的方法了。
最後給大家分享一個Github倉庫,上面有大彬整理的300多本經典的計算機書籍PDF,包括C語言、C++、Java、Python、前端、資料庫、作業系統、計算機網路、資料結構和演算法、機器學習、程式設計人生等,可以star一下,下次找書直接在上面搜尋,倉庫持續更新中~
Github地址:https://github.com/Tyson0314/...