如何用Redis實現搜尋介面
導讀 | 大家如果是做後端開發的,想必都實現過列表查詢的介面,當然有的查詢條件很簡單,一條 SQL 就搞定了。 |
但有的查詢條件極其複雜,再加上庫表中設計的各種不合理,導致查詢介面特別難寫,然後加班什麼的就不用說了(不知各位有沒有這種感受呢~)。
下面以一個例子開始,這是某購物網站的搜尋條件,如果讓你實現這樣的一個搜尋介面,你會如何實現?
當然你說藉助搜尋引擎,像 Elasticsearch 之類的,你完全可以實現。但我這裡想說的是,如果要你自己實現呢?
從上圖中可以看出,搜尋總共分為 6 大類,每大類中又分了各個子類。
這中間,各大類條件之間是取的交集,各子類中有單選、多選、以及自定義的情況,最終輸出符合條件的結果集。
好了,既然需求很明確了,我們就開始來實現。
率先登場是小 A 同學,他是寫 SQL 方面的“專家”。小 A 信心滿滿的說:“不就是一個查詢介面嗎?看著條件很多,但憑著我豐富的 SQL 經驗,這點還是難不倒我的。”
於是乎就寫出了下面這段程式碼(這裡以 MySQL 為例):
select ... from table_1 left join table_2 left join table_3 left join (select ... from table_x where ...) tmp_1 ... where ... order by ... limit m,n
程式碼在測試環境跑了一把,結果好像都匹配上了,於是準備上預發。這一上預發,問題就開始暴露出來。
預發為了儘可能的逼真線上環境,所以資料量自然而然要比測試大的多。所以這麼一個複雜的 SQL,它的執行效率可想而知。測試同學果斷把小 A 的程式碼給打了回來。
總結了小 A 失敗的教訓,小 B 開始對 SQL 進行了最佳化,先是透過了 explain 關鍵字進行 SQL 效能分析,對該加索引的地方都加上了索引。
同時將一條複雜 SQL 拆分成了多條 SQL,計算結果在程式記憶體中進行計算。
虛擬碼如下:
$result_1 = query('select ... from table_1 where ...'); $result_2 = query('select ... from table_2 where ...'); $result_3 = query('select ... from table_3 where ...'); ... $result = array_intersect($result_1, $result_2, $result_3, ...);
這種方案從效能上明顯比第一種要好很多,可是在功能驗收的時候,產品經理還是覺得查詢速度不夠快。
小 B 自己也知道,每次查詢都會向資料庫查詢多次,而且有些歷史原因,部分條件是做不到單表查詢的,所以查詢等待的時間是避免不了的。
小 C 從上面的方案中看到了最佳化的空間。他發現小 B 在思路上是沒問題的,將複雜條件拆分,計算各個子維度的結果集,最後將所有的子結果集進行一個彙總合併,得到最終想要的結果。
於是他突發奇想,能否事先將各個子維度的結果集給快取起來,這要查詢的時候直接去取想要的子集,而不用每次去查庫計算。
這裡小 C 採用 Redis 來儲存快取資料,用它的主要原因是,它提供了多種資料結構,並且在 Redis 中進行集合的交併集操作是一件很容易的事情。
具體方案,如圖所示:
這裡每個條件都事先將計算好的結果集 ID 存入對應的 Key 中,選用的資料結構是集合(Set)。
查詢操作包括:
- 子類單選:直接根據條件 Key,獲取對應結果集。
- 子類多選:根據多個條件 Key,進行並集操作,獲取對應結果集。
- 最終結果:將獲取的所有子類結果集進行交集操作,得到最終結果。
- 頁面總數為:ZCOUNT 命令。
- 當前頁內容:ZRANGE 命令。
- 若以倒序排列:ZREVRANGE命令。
這其實就是所謂的反向索引。這裡會發現,漏了一個價格的條件。從需求中可知,價格條件是個區間,並且是無窮舉的。
所以上述的這種窮舉條件的 Key-Value 方式是做不到的。這裡我們採用 Redis 的另一種資料結構進行實現,有序集合(Sorted Set):
將所有商品加入 Key 為價格的有序集合中,值為商品 ID,每個值對應的分數為商品價格的數值。
這樣在 Redis 的有序集合中就可以透過 ZRANGEBYSCORE ,根據分數(價格)區間,獲取相應結果集。
至此,方案三的最佳化已全部結束,將資料的查詢與計算透過快取的手段,進行了分離。
在每次查詢時,只需要簡單的查詢 Redis 幾次就能得出結果。查詢速度上符合了驗收的要求。
這裡你或許發現了一個嚴重的功能缺陷,列表查詢怎麼能沒有分頁。是的,我們馬上來看 Redis 是如何實現分頁的。
分頁主要涉及排序,這裡簡單起見,就以建立時間為例。如圖所示:
圖中藍色部分是以建立時間為分值的商品有序集合,藍色下方的結果集即為條件計算而得的結果,透過 ZINTERSTORE ,賦結果集權重為 0,商品時間結果為 1,取交集而得的結果集賦予建立時間分值的新有序集合。
對新結果集的操作即能得到分頁所需的各個資料:
關於索引資料更新的問題,有兩種方式來進行。一種是透過商品資料的修改,來即時觸發更新操作,一種是透過定時 來進行批次更新。
這裡要注意的是,關於索引內容的更新,如果暴力的刪除 Key,再重新設定 Key。
因為 Redis 中兩個操作不會是原子性進行的,所以中間可能存在空白間隙,建議採用僅移除集合中失效元素,新增新元素的方式進行。
Redis 是記憶體級操作,所以單次的查詢會很快。但是如果我們的實現中會進行多次的 Redis 操作,Redis 的多次連線時間可能是不必要時間消耗。
透過使用 MULTI 命令,開啟一個事務,將 Redis 的多次操作放在一個事務中,最後透過 EXEC 來進行原子性執行。
注意:這裡所謂的事務,只是將多個操作在一次連線中執行,如果執行過程中遇到失敗,是不會回滾的。
這裡只是一個採用 Redis 最佳化查詢搜尋的一個簡單 Demo,和現有的開源搜尋引擎相比,它更輕量,學習成本頁相應低些。
其次,它的一些思想與開源搜尋引擎是類似的,如果再加上詞語解析,也可以實現類似全文檢索的功能。
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/69955379/viewspace-2756211/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- Redis 實戰 —— 10. 實現內容搜尋、定向廣告和職位搜尋Redis
- Golang 實現 Redis(9): 使用GeoHash 搜尋附近的人GolangRedis
- 一步步實現 Redis 搜尋引擎Redis
- 如何用華為位置服務實現搜尋位置返回父子節點資訊
- 如何用好谷歌等搜尋引擎?谷歌
- Trie|如何用字典樹實現搜尋引擎的關鍵詞提示功能
- Laravel + Elasticsearch 實現中文搜尋LaravelElasticsearch
- Elasticsearch 實現簡單搜尋Elasticsearch
- Jquery + Bootstrap 實現搜尋框jQueryboot
- PHP實現搜尋附近的人PHP
- 實現延遲搜尋功能
- 如何用 Redis 實現分散式鎖Redis分散式
- 實時搜尋:如何用Javascript客戶端保證安全JavaScript客戶端
- 淘寶拍立淘介面,圖片搜尋介面,圖片識別介面,以圖搜貨介面,按圖搜尋介面程式碼教程
- laravel8實現ES搜尋Laravel
- elasticsearch實現基於拼音搜尋Elasticsearch
- ASP智慧搜尋的實現 (轉)
- 如何用REDIS實現分散式快取Redis分散式快取
- Elasticsearch搜尋功能的實現(五)-- 實戰Elasticsearch
- Firefox 引入新搜尋介面Firefox
- 線上直播系統原始碼,實現搜尋後介面顯示商品列表效果原始碼
- Sunday搜尋演算法實現演算法
- BM搜尋演算法C實現演算法
- javascript實現二叉搜尋樹JavaScript
- Python如何實現窮舉搜尋?Python
- 基於Elasticsearch實現搜尋建議Elasticsearch
- CSS 實現搜尋相關互動CSS
- 使用 Laravel Scout + ElasticSearch 實現全文搜尋LaravelElasticsearch
- 海量資料搜尋---demo展示百度、谷歌搜尋引擎的實現谷歌
- vue2實現搜尋結果中的搜尋關鍵字高亮Vue
- 【搜尋引擎】 PostgreSQL 10 實時全文檢索和分詞、相似搜尋、模糊匹配實現類似Google搜尋自動提示SQL分詞Go
- 1688關鍵字搜尋介面
- 音樂搜尋介面,Kotlin版本Kotlin
- 圖的廣度優先搜尋和深度優先搜尋Python實現Python
- DjangoRestFramework 實現分頁功能與搜尋功能DjangoRESTFramework
- 原生javascript實現的選取搜尋元件JavaScript元件
- 微信小程式 簡易搜尋功能實現微信小程式
- Angular6-Filter實現頁面搜尋AngularFilter