沒辦法了,用 MySQL 做全文檢索也挺好的
這有朋友聊到他們的系統中要接入全文檢索,這讓我想起了很久以前為一個很古老的專案新增搜尋功能的事兒。
一提到全文檢索,我們首先就會想到搜尋引擎。也就是用一個詞、一段文字搜尋出匹配的內容。一般這種技術都有對應的實現方式,ES(ElasticSearch)就是專門幹這個的,如果你們的業務中明確需要全文檢索,或者簡單一點說,需要根據關鍵詞搜尋出匹配的內容,那就直接用 ES 就好了。
無論你怎麼調研,都不推薦使用 MySQL 實現這種需求,顯而易見,MySQL 作為關係型資料庫,本身就不適合做搜尋這種需求。
但是,奈何,今天我們就要用 MySQL 來做這件事兒。
背景
有一個很古老的業務採集了大量的資訊,當然是合法採集了。系統用的人已經不多了,並且在平穩的執行,那就不要動它了就好了嘛。可偏偏為數不多的人非要加一個搜尋功能,根據一個關鍵詞來搜尋。
這專案直接沒接觸過,我們也不敢隨意改呀,透過和少有的還有了解這個系統的同事溝通,發現有一類角色本來就有搜尋功能,只不過這功能基本沒法用,從來搜不出內容。現象就是點完搜尋按鈕,後臺介面就一直 pending
,不用說了,那肯定是因為資料量太大了,或者某種很傻的原因,比如直接在大資料量、大段文字的欄位中使用了 like
模糊查詢。
經過一番檢視,發現這個準備要支援搜尋的欄位是 text
型別的, 欄位本身是不參與業務計算的,只是用來展示。而要搜尋的內容還不止一個欄位,好幾個欄位,這些欄位的內容是什麼呢,就是一段描述內容,裡面有各種各樣的專業名詞,每一行記錄中這個欄位最大長度可能有幾十到上千個字不等。
這張表由於資料量較大,並且欄位很多,所以進行了分表,根據某個上層型別進行拆分,這樣分出來的表,大的有上百萬,小的有幾十萬。業務運算的時候,也是固定型別後,在這個型別下的分表中進行增刪改查。
一看程式碼,果然,一條查詢好幾個 like
,在幾十萬資料量的表中like
好幾個欄位,不慢才怪,能查出來就是奇蹟了。
於是勇敢的在資料庫中嘗試了一下一條查詢的完整 SQL,在10分鐘之後,還是果斷結束了任務,一條SQL執行10分鐘,就算使用者能接受,我們自己也接受不了,好不好。
分析並思考解決方案
有需求就要處理,這種搜尋的需求很明顯就要用 ES 嘛,下載ES,準備本地搭建環境。
開玩笑的,加上 ES 不知道何年何年了,況且這麼老的專案,能少動就少動,能不碰就不碰。這個法則,每個程式設計師都應該掌握。
思考
如果使用者想要的不是透過任意關鍵字檢索,而是透過指定一些我們為他預設好的關鍵詞查詢,就類似於抽出一些標籤,可以按照標籤組合搜尋,那可以將需要搜尋的欄位中的內容拿出來分詞、歸類,抽取出相關的標籤。這又是分詞、又是分析的,想想也不比直接上 ES 簡單。
還好,使用者不想要這種的,就要不做限制,直接用關鍵詞搜尋。
務實主義
目前的處境是這樣的:
1、不要做大的改動,因為專案老舊,並且不熟悉,用的人也不多了;
2、邏輯很明晰,就是模糊查詢,但是目前效能極低;
3、直接在 MySQL 層做最佳化,確實是有辦法的,具體效果只能試過之後才知道;
直接的最佳化手段其實也是非常簡單的,MySQL 5.6版本後,MyISAM 和InnoDB 引擎已經全部支援全文索引了。還好,目前使用的資料庫在5.6版本之後。
為了演示,我將最小的一張 296,560
表縮小了10倍變成了 2萬9千多條,沒有做任何處理,直接在一個最長的 text
型別的欄位上做 like
查詢,最後的查詢時間是 1秒左右,偶爾慢的時候能達到2、3秒。
select * from case_data where case_name like '%侵權責任%';
用explain
分析一下,發現是全表掃描。
這只是查詢了將近3萬條資料,並且只查詢了一個欄位,並且沒有其他邏輯,真實環境中的邏輯要複雜的多。
全文索引簡單原理
MySQL 5.6之後的版本支援對 char、varchar、text 型別的欄位建立全文索引。
當新增了全文索引之後,資料庫引擎就會對新增索引的列進行語法語義的分析,並對它進行分詞,之後對這些分出的短語進行索引,每個短語對應包含它的行的集合。
短語 | 包含的行的集合 |
---|---|
合同 | 第1行、第5行、第10行、第n行 |
專案管理 | 第2行、第3行、第22行、第1999行、第n+1行 |
產品研發 | 第500行、第3899行、第8899行、第n+2行 |
這樣當我們搜尋某個關鍵詞後,如果正好對應了某個短語,就可以直接命中包含它的行。
有幾個引數是控制全文索引的, ft(FullText) 開頭的。用下面的命令可以檢視。
show variables like '%ft%'
ft_boolean_syntax
表示布林查詢時的可以用的符號,改變IN BOOLEAN MODE的查詢字元,一會兒下面會演示用法。
innodb_ft_min_token_size
對與 innodb 引擎,最短的索引字串,預設值為84,修改後要重建索引
innodb_ft_max_token_size
對與 innodb 引擎,最長的索引字串,預設值為3,修改後要重建索引
建立全文檢索
下面這兩種方式都可以對已經存在的表建立全文索引。
CREATE FULLTEXT INDEX <index_name> on tableName(欄位名);
ALTER TABLE tableName ADD FULLTEXT <index_name>(欄位名);
當然,如果你不想用SQL語句建立,也可以直接使用客戶端工具建立。
比如我測試用的這個表叫做 case_data
,要支援全文檢索的欄位叫做 case_name
,使用下面的 SQL 建立索引,索引名稱為 inde_case_name
。
ALTER TABLE case_data ADD FULLTEXT index_case_name(`case_name`);
建立索引的過程比較緩慢,對於大資料量的表更慢,尤其是全文索引,這3萬條資料對這一個欄位建立索引的過程差不多10秒鐘左右,如果是線上正在使用的服務,建立這種耗時索引就要酌情考慮一下什麼時機建立比較合適了。
再次查詢測試效能
全文索引建立好之後,就可以測試一下效果如何了,執行一下,等著見證奇蹟。
select * from case_data where case_name like '%侵權責任%';
咦,怎麼不僅沒快,反而慢了一點兒。
別慌,姿勢不太對。全文索引有專門對應的查詢關鍵字。使用 match
和against
配合查詢,match 表示要匹配的列名稱,against 表示要查詢的關鍵詞。比如下面這樣:
select * from case_data where match(case_name) against('侵權責任');
確實是快了,透過分析可以看出已經開始走全文索引了,掃描的行數已經是常數行了。
但是,一頓操作猛如虎,一看結果啥都沒有啊。
因為全文檢索是有精度的,是按照分詞出來的關鍵詞進行完全匹配的,也就是說當前的分詞短語中並不存在侵權責任
這個詞,但是可能存在人身侵權責任
、無故侵權責任人
等短語。最簡單的辦法就是在查詢侵權責任
這個短語時,也要命中人身侵權責任
、無故侵權責任人
這兩個短語,又類似於模糊查詢了。
怎麼辦呢,這樣寫就可以了。
select * from case_data where match(case_name) against('*侵權責任*' in boolean mode);
這樣再次查詢,結果就出來了。為什麼會這樣呢,前面我們提到一個變數,叫做ft_boolean_syntax
,這個變數中的符號就類似於正規表示式裡支援的規則符號。
常見的匹配模式有下面這些:
空格
:可選的,包含該詞的順序較高
"text"
:全詞匹配查詢
text*
:萬用字元查詢,*
只能放在後面
+text
:必須包含,+
只能放在詞前面
-text
:必須不包含,不能單獨使用,如`+aaaa-cccc
>text
:如果含有該詞,提高詞的相關性
<text
:如果含有該詞,降低詞的相關性
()
:條件組,如aaaa+(bbbb cccc)
表示必須包含 bbbb 或 cccc
本來就叫全文檢索了,結果又整個模糊查詢,一點兒也不徹底呀,還有沒有別的辦法了。
有一個,在5.7版本開始就內建了中文分詞外掛 ngram
,我們將剛才建立的索引刪掉,然後重新用 ngram
做分詞重新建立索引。
ALTER TABLE case_data ADD FULLTEXT index_case_name(`case_name`) WITH PARSER ngram;
等個十幾秒中,然後再執行第一次差不到資料的SQL。
select * from case_data where match(case_name) against('侵權責任');
再看查詢結果,已經有資料了。
效能提升
我的測試資料只有2萬多條,這種少量資料的情況下,效能是看不到提升的。並且還由於建立了索引,增大了儲存空間。
但是將資料量提升十倍,到二十多萬,會看到效能明顯提升了幾十倍。我線上上測試了 200萬的表,用全文索引的方式0.5秒內能出結果,用 like 的話,喝完一杯茶,發現還在跑著。
因為全文檢索本來就是適用於大資料量的場景,所以對於小樣本的資料量,直接用 like
也查不到哪兒去。
對於大資料量的場景,如果不引入ES等全文檢索的中介軟體的情況下,用全文索引可以說是最快最划算的方式了。
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/70024922/viewspace-2929188/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- coreseek,php,mysql全文檢索部署(一)PHPMySql
- coreseek,php,mysql全文檢索部署(二)PHPMySql
- 全文字檢索的應用(2)(轉)
- 全文字檢索的應用(1)(轉)
- Oracle全文檢索Oracle
- 全文檢索庫 bluge
- Linux Sphinx/Coreseek安裝 Mysql全文檢索LinuxMySql
- Lucene可以對MYSQL進行全文檢索嗎?MySql
- 基於ElasticSearch實現商品的全文檢索檢索Elasticsearch
- elasticsearch的實現全文檢索Elasticsearch
- 請問全文檢索的思路?
- Kibana 全文檢索操作
- solr全文檢索學習Solr
- Oracle全文檢索之中文Oracle
- Oracle的全文檢索技術(轉)Oracle
- 全文檢索技術lucene的demo
- 全文檢索的基本原理
- Mysql 如何實現全文檢索,關鍵詞跑分MySql
- Oracle全文檢索之Ctxcat 索引Oracle索引
- Oracle全文檢索之ContextOracleContext
- 基於Lucene的全文檢索實踐
- oracle全文索引之配置全文檢索環境Oracle索引
- php + MongoDB + Sphinx 實現全文檢索PHPMongoDB
- PostgreSQL全文檢索-詞頻統計SQL
- 手工建立oracle text全文檢索元件Oracle元件
- openGauss每日一練(全文檢索)
- IM全文檢索技術專題(四):微信iOS端的最新全文檢索技術優化實踐iOS優化
- ElasticSearch 實現分詞全文檢索 - 概述Elasticsearch分詞
- springboot ElasticSearch 簡單的全文檢索高亮Spring BootElasticsearch
- RDSforMySQL全文檢索相關問題的處理ORMMySql
- PHP+redis實現超迷你全文檢索PHPRedis
- 【IT老齊072】全文檢索執行原理
- 板橋大人,首頁的google全文檢索如何實現Go
- 請教一個使用lucene做全文檢索與資料庫連線時的問題資料庫
- Redis 也支援全文搜尋?這也太強了Redis
- 用過javamail的朋友幫幫忙,我真的沒有辦法了?!!!JavaAI
- 萬萬沒想到,騰訊視訊也開始做遊戲了遊戲
- ElasticSearch 實現分詞全文檢索 - delete-by-queryElasticsearch分詞delete