沒辦法了,用 MySQL 做全文檢索也挺好的

帶你聊技術發表於2022-12-23

這有朋友聊到他們的系統中要接入全文檢索,這讓我想起了很久以前為一個很古老的專案新增搜尋功能的事兒。

一提到全文檢索,我們首先就會想到搜尋引擎。也就是用一個詞、一段文字搜尋出匹配的內容。一般這種技術都有對應的實現方式,ES(ElasticSearch)就是專門幹這個的,如果你們的業務中明確需要全文檢索,或者簡單一點說,需要根據關鍵詞搜尋出匹配的內容,那就直接用 ES 就好了。

無論你怎麼調研,都不推薦使用 MySQL 實現這種需求,顯而易見,MySQL 作為關係型資料庫,本身就不適合做搜尋這種需求。

但是,奈何,今天我們就要用 MySQL 來做這件事兒。

背景

有一個很古老的業務採集了大量的資訊,當然是合法採集了。系統用的人已經不多了,並且在平穩的執行,那就不要動它了就好了嘛。可偏偏為數不多的人非要加一個搜尋功能,根據一個關鍵詞來搜尋。

這專案直接沒接觸過,我們也不敢隨意改呀,透過和少有的還有了解這個系統的同事溝通,發現有一類角色本來就有搜尋功能,只不過這功能基本沒法用,從來搜不出內容。現象就是點完搜尋按鈕,後臺介面就一直 pending,不用說了,那肯定是因為資料量太大了,或者某種很傻的原因,比如直接在大資料量、大段文字的欄位中使用了 like模糊查詢。

經過一番檢視,發現這個準備要支援搜尋的欄位是 text型別的, 欄位本身是不參與業務計算的,只是用來展示。而要搜尋的內容還不止一個欄位,好幾個欄位,這些欄位的內容是什麼呢,就是一段描述內容,裡面有各種各樣的專業名詞,每一行記錄中這個欄位最大長度可能有幾十到上千個字不等。

這張表由於資料量較大,並且欄位很多,所以進行了分表,根據某個上層型別進行拆分,這樣分出來的表,大的有上百萬,小的有幾十萬。業務運算的時候,也是固定型別後,在這個型別下的分表中進行增刪改查。

一看程式碼,果然,一條查詢好幾個 like,在幾十萬資料量的表中like好幾個欄位,不慢才怪,能查出來就是奇蹟了。

於是勇敢的在資料庫中嘗試了一下一條查詢的完整 SQL,在10分鐘之後,還是果斷結束了任務,一條SQL執行10分鐘,就算使用者能接受,我們自己也接受不了,好不好。

分析並思考解決方案

有需求就要處理,這種搜尋的需求很明顯就要用 ES 嘛,下載ES,準備本地搭建環境。

開玩笑的,加上 ES 不知道何年何年了,況且這麼老的專案,能少動就少動,能不碰就不碰。這個法則,每個程式設計師都應該掌握。

沒辦法了,用 MySQL 做全文檢索也挺好的

思考

如果使用者想要的不是透過任意關鍵字檢索,而是透過指定一些我們為他預設好的關鍵詞查詢,就類似於抽出一些標籤,可以按照標籤組合搜尋,那可以將需要搜尋的欄位中的內容拿出來分詞、歸類,抽取出相關的標籤。這又是分詞、又是分析的,想想也不比直接上 ES 簡單。

還好,使用者不想要這種的,就要不做限制,直接用關鍵詞搜尋。

務實主義

目前的處境是這樣的:

1、不要做大的改動,因為專案老舊,並且不熟悉,用的人也不多了;

2、邏輯很明晰,就是模糊查詢,但是目前效能極低;

3、直接在 MySQL 層做最佳化,確實是有辦法的,具體效果只能試過之後才知道;

直接的最佳化手段其實也是非常簡單的,MySQL 5.6版本後,MyISAM 和InnoDB 引擎已經全部支援全文索引了。還好,目前使用的資料庫在5.6版本之後。

為了演示,我將最小的一張 296,560 表縮小了10倍變成了 2萬9千多條,沒有做任何處理,直接在一個最長的 text型別的欄位上做 like查詢,最後的查詢時間是 1秒左右,偶爾慢的時候能達到2、3秒。

select * from case_data where case_name like '%侵權責任%';
沒辦法了,用 MySQL 做全文檢索也挺好的

explain分析一下,發現是全表掃描。

沒辦法了,用 MySQL 做全文檢索也挺好的

這只是查詢了將近3萬條資料,並且只查詢了一個欄位,並且沒有其他邏輯,真實環境中的邏輯要複雜的多。

全文索引簡單原理

MySQL 5.6之後的版本支援對 char、varchar、text 型別的欄位建立全文索引。

當新增了全文索引之後,資料庫引擎就會對新增索引的列進行語法語義的分析,並對它進行分詞,之後對這些分出的短語進行索引,每個短語對應包含它的行的集合。

短語包含的行的集合
合同第1行、第5行、第10行、第n行
專案管理第2行、第3行、第22行、第1999行、第n+1行
產品研發第500行、第3899行、第8899行、第n+2行

這樣當我們搜尋某個關鍵詞後,如果正好對應了某個短語,就可以直接命中包含它的行。

有幾個引數是控制全文索引的, ft(FullText) 開頭的。用下面的命令可以檢視。

show variables like '%ft%'
沒辦法了,用 MySQL 做全文檢索也挺好的

ft_boolean_syntax

表示布林查詢時的可以用的符號,改變IN BOOLEAN MODE的查詢字元,一會兒下面會演示用法。

innodb_ft_min_token_size

對與 innodb 引擎,最短的索引字串,預設值為84,修改後要重建索引

innodb_ft_max_token_size

對與 innodb 引擎,最長的索引字串,預設值為3,修改後要重建索引

建立全文檢索

下面這兩種方式都可以對已經存在的表建立全文索引。

CREATE FULLTEXT INDEX <index_name> on tableName(欄位名);  

ALTER TABLE tableName ADD FULLTEXT <index_name>(欄位名);

當然,如果你不想用SQL語句建立,也可以直接使用客戶端工具建立。

比如我測試用的這個表叫做 case_data,要支援全文檢索的欄位叫做 case_name,使用下面的 SQL 建立索引,索引名稱為 inde_case_name

ALTER TABLE case_data ADD FULLTEXT index_case_name(`case_name`);

建立索引的過程比較緩慢,對於大資料量的表更慢,尤其是全文索引,這3萬條資料對這一個欄位建立索引的過程差不多10秒鐘左右,如果是線上正在使用的服務,建立這種耗時索引就要酌情考慮一下什麼時機建立比較合適了。

再次查詢測試效能

全文索引建立好之後,就可以測試一下效果如何了,執行一下,等著見證奇蹟。

select * from case_data where case_name like '%侵權責任%';

咦,怎麼不僅沒快,反而慢了一點兒。

沒辦法了,用 MySQL 做全文檢索也挺好的

別慌,姿勢不太對。全文索引有專門對應的查詢關鍵字。使用 matchagainst配合查詢,match 表示要匹配的列名稱,against 表示要查詢的關鍵詞。比如下面這樣:

select * from case_data where match(case_name) against('侵權責任');

確實是快了,透過分析可以看出已經開始走全文索引了,掃描的行數已經是常數行了。

沒辦法了,用 MySQL 做全文檢索也挺好的

但是,一頓操作猛如虎,一看結果啥都沒有啊。

因為全文檢索是有精度的,是按照分詞出來的關鍵詞進行完全匹配的,也就是說當前的分詞短語中並不存在侵權責任這個詞,但是可能存在人身侵權責任無故侵權責任人等短語。最簡單的辦法就是在查詢侵權責任這個短語時,也要命中人身侵權責任無故侵權責任人這兩個短語,又類似於模糊查詢了。

怎麼辦呢,這樣寫就可以了。

select * from case_data where match(case_name) against('*侵權責任*' in boolean mode);

這樣再次查詢,結果就出來了。為什麼會這樣呢,前面我們提到一個變數,叫做ft_boolean_syntax,這個變數中的符號就類似於正規表示式裡支援的規則符號。

常見的匹配模式有下面這些:

空格:可選的,包含該詞的順序較高

"text":全詞匹配查詢

text*:萬用字元查詢,*只能放在後面

+text:必須包含,+只能放在詞前面

-text:必須不包含,不能單獨使用,如`+aaaa-cccc

>text:如果含有該詞,提高詞的相關性

<text:如果含有該詞,降低詞的相關性

():條件組,如aaaa+(bbbb cccc)表示必須包含 bbbb 或 cccc

本來就叫全文檢索了,結果又整個模糊查詢,一點兒也不徹底呀,還有沒有別的辦法了。

有一個,在5.7版本開始就內建了中文分詞外掛 ngram,我們將剛才建立的索引刪掉,然後重新用 ngram做分詞重新建立索引。

ALTER TABLE case_data ADD FULLTEXT index_case_name(`case_name`WITH PARSER ngram;

等個十幾秒中,然後再執行第一次差不到資料的SQL。

select * from case_data where match(case_name) against('侵權責任');

再看查詢結果,已經有資料了。

效能提升

我的測試資料只有2萬多條,這種少量資料的情況下,效能是看不到提升的。並且還由於建立了索引,增大了儲存空間。

但是將資料量提升十倍,到二十多萬,會看到效能明顯提升了幾十倍。我線上上測試了 200萬的表,用全文索引的方式0.5秒內能出結果,用 like 的話,喝完一杯茶,發現還在跑著。

因為全文檢索本來就是適用於大資料量的場景,所以對於小樣本的資料量,直接用 like也查不到哪兒去。

對於大資料量的場景,如果不引入ES等全文檢索的中介軟體的情況下,用全文索引可以說是最快最划算的方式了。





來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/70024922/viewspace-2929188/,如需轉載,請註明出處,否則將追究法律責任。

相關文章