前言
最近在做的業務場景涉及到了資料庫的遞迴查詢。我們公司用的 Oracle ,眾所周知,Oracle 自帶有遞迴查詢的功能,所以實現起來特別簡單。
但是,我記得 MySQL 是沒有遞迴查詢功能的,那 MySQL 中應該怎麼實現呢?
於是,就有了這篇文章。
文章主要知識點:
- Oracle 遞迴查詢, start with connect by prior 用法
- find_in_set 函式
- concat,concat_ws,group_concat 函式
- MySQL 自定義函式
- 手動實現 MySQL 遞迴查詢
Oracle 遞迴查詢
在 Oracle 中是通過 start with connect by prior 語法來實現遞迴查詢的。
按照 prior 關鍵字在子節點端還是父節點端,以及是否包含當前查詢的節點,共分為四種情況。
prior 在子節點端(向下遞迴)
第一種情況: start with 子節點id = ' 查詢節點 ' connect by prior 子節點id = 父節點id
select * from dept start with id='1001' connet by prior id=pid;
這裡,按照條件 id='1001' 對當前節點以及它的子節點遞迴查詢。查詢結果包含自己及所有子節點。
第二種情況: start with 父節點id= ' 查詢節點 ' connect by prior 子節點id = 父節點 id
select * from dept start with pid='1001' connect by prior id=pid;
這裡,按照條件 pid='1001' 對當前節點的所有子節點遞迴查詢。查詢結果只包含它的所有子節點,不包含自己。
其實想一想也對,因為開始條件是以父節點為根節點,且向下遞迴,自然不包含當前節點。
prior 在父節點端(向上遞迴)
第三種情況: start with 子節點id= ' 查詢節點 ' connect by prior 父節點id = 子節點id
select * from dept start with id='1001' connect by prior pid=id;
這裡按照條件 id='1001' ,對當前節點及其父節點遞迴查詢。查詢結果包括自己及其所有父節點。
第四種情況: start with 父節點id= ' 查詢節點 ' connect by prior 父節點id = 子節點id
select * from dept start with pid='1001' connect by prior pid=id;
這裡按照條件 pid='1001',對當前節點的第一代子節點以及它的父節點遞迴查詢。查詢結果包括自己的第一代子節點以及所有父節點。(包括自己)
其實這種情況也好理解,因為查詢開始條件是以 父節點
為根節點,且向上遞迴,自然需要把當前父節點的第一層子節點包括在內。
以上四種情況初看可能會讓人迷惑,容易記混亂,其實不然。
我們只需要記住 prior 的位置在子節點端,就向下遞迴,在父節點端就向上遞迴。
- 開始條件若是子節點的話,自然包括它本身的節點。
- 開始條件若是父節點的話,則向下遞迴時,自然不包括當前節點。而向上遞迴,需要包括當前節點及其第一代子節點。
MySQL 遞迴查詢
可以看到,Oracle 實現遞迴查詢非常的方便。但是,在 MySQL 中並沒有幫我們處理,因此需要我們自己手動實現遞迴查詢。
為了方便,我們建立一個部門表,並插入幾條可以形成遞迴關係的資料。
DROP TABLE IF EXISTS `dept`;
CREATE TABLE `dept` (
`id` varchar(10) CHARACTER SET utf8mb4 COLLATE utf8mb4_general_ci NOT NULL,
`name` varchar(255) CHARACTER SET utf8mb4 COLLATE utf8mb4_general_ci NULL DEFAULT NULL,
`pid` varchar(10) CHARACTER SET utf8mb4 COLLATE utf8mb4_general_ci NULL DEFAULT NULL,
PRIMARY KEY (`id`) USING BTREE
) ENGINE = InnoDB CHARACTER SET = utf8mb4 COLLATE = utf8mb4_general_ci ROW_FORMAT = Dynamic;
INSERT INTO `dept`(`id`, `name`, `pid`) VALUES ('1000', '總公司', NULL);
INSERT INTO `dept`(`id`, `name`, `pid`) VALUES ('1001', '北京分公司', '1000');
INSERT INTO `dept`(`id`, `name`, `pid`) VALUES ('1002', '上海分公司', '1000');
INSERT INTO `dept`(`id`, `name`, `pid`) VALUES ('1003', '北京研發部', '1001');
INSERT INTO `dept`(`id`, `name`, `pid`) VALUES ('1004', '北京財務部', '1001');
INSERT INTO `dept`(`id`, `name`, `pid`) VALUES ('1005', '北京市場部', '1001');
INSERT INTO `dept`(`id`, `name`, `pid`) VALUES ('1006', '北京研發一部', '1003');
INSERT INTO `dept`(`id`, `name`, `pid`) VALUES ('1007', '北京研發二部', '1003');
INSERT INTO `dept`(`id`, `name`, `pid`) VALUES ('1008', '北京研發一部一小組', '1006');
INSERT INTO `dept`(`id`, `name`, `pid`) VALUES ('1009', '北京研發一部二小組', '1006');
INSERT INTO `dept`(`id`, `name`, `pid`) VALUES ('1010', '北京研發二部一小組', '1007');
INSERT INTO `dept`(`id`, `name`, `pid`) VALUES ('1011', '北京研發二部二小組', '1007');
INSERT INTO `dept`(`id`, `name`, `pid`) VALUES ('1012', '北京市場一部', '1005');
INSERT INTO `dept`(`id`, `name`, `pid`) VALUES ('1013', '上海研發部', '1002');
INSERT INTO `dept`(`id`, `name`, `pid`) VALUES ('1014', '上海研發一部', '1013');
INSERT INTO `dept`(`id`, `name`, `pid`) VALUES ('1015', '上海研發二部', '1013');
沒錯,剛才 Oracle 遞迴,就是用的這張表。
另外,在這之前,我們需要複習一下幾個 MYSQL中的函式,後續會用到。
find_in_set 函式
函式語法:find_in_set(str,strlist)
str 代表要查詢的字串 , strlist 是一個以逗號分隔的字串,如 ('a,b,c')。
此函式用於查詢 str 字串在字串 strlist 中的位置,返回結果為 1 ~ n 。若沒有找到,則返回0。
舉個例子:
select FIND_IN_SET('b','a,b,c,d');
結果返回 2 。因為 b 所在位置為第二個子串位置。
此外,在對錶資料進行查詢時,它還有一種用法,如下:
select * from dept where FIND_IN_SET(id,'1000,1001,1002');
結果返回所有 id 在 strlist 中的記錄,即 id = '1000' ,id = '1001' ,id = '1002' 三條記錄。
看到這,對於我們要解決的遞迴查詢,不知道你有什麼啟發沒。
以向下遞迴查詢所有子節點為例。我想,是不是可以找到一個包含當前節點和所有子節點的以逗號拼接的字串 strlist,傳進 find_in_set 函式。就可以查詢出所有需要的遞迴資料了。
那麼,現在問題就轉化為怎樣構造這樣的一個字串 strlist 。
這就需要用到以下字串拼接函式了。
concat,concat_ws,group_concat 函式
一、字串拼接函式中,最基本的就是 concat 了。它用於連線N個字串,如,
select CONCAT('M','Y','S','Q','L') from dual;
結果為 'MYSQL' 字串。
二、concat 是以逗號為預設的分隔符,而 concat_ws 則可以指定分隔符,第一個引數傳入分隔符,如以下劃線分隔。
三、group_concat 函式更強大,可以分組的同時,把欄位以特定分隔符拼接成字串。
用法:group_concat( [distinct] 要連線的欄位 [order by 排序欄位 asc/desc ] [separator '分隔符'] )
可以看到有可選引數,可以對將要拼接的欄位值去重,也可以排序,指定分隔符。若沒有指定,預設以逗號分隔。
對於 dept 表,我們可以把表中的所有 id 以逗號拼接。(這裡沒有用到 group by 分組欄位,則可以認為只有一組)
MySQL 自定義函式,實現遞迴查詢
可以發現以上已經把字串拼接的問題也解決了。那麼,問題就變成怎樣構造有遞迴關係的字串了。
我們可以自定義一個函式,通過傳入根節點id,找到它的所有子節點。
以向下遞迴為例。 (講解自定義函式寫法的同時,講解遞迴邏輯)
delimiter $$
drop function if exists get_child_list$$
create function get_child_list(in_id varchar(10)) returns varchar(1000)
begin
declare ids varchar(1000) default '';
declare tempids varchar(1000);
set tempids = in_id;
while tempids is not null do
set ids = CONCAT_WS(',',ids,tempids);
select GROUP_CONCAT(id) into tempids from dept where FIND_IN_SET(pid,tempids)>0;
end while;
return ids;
end
$$
delimiter ;
(1) delimiter $$ ,用於定義結束符。我們知道 MySQL 預設的結束符為分號,表明指令結束並執行。但是在函式體中,有時我們希望遇到分號不結束,因此需要暫時把結束符改為一個隨意的其他值。我這裡設定為 $$,意思是遇到 $$ 才結束,並執行當前語句。
(2)drop function if exists get_child_list$$ 。若函式 get_child_list 已經存在了,則先刪除它。注意這裡需要用 當前自定義的結束符 $$ 來結束並執行語句。 因為,這裡需要和下邊的函式體單獨區分開來。
(3)create function get_child_list 建立函式。並且引數傳入一個根節點的子節點id,需要注意一定要註明引數的型別和長度,如這裡是 varchar(10)。returns varchar(1000) 用來定義返回值引數型別。
(4)begin 和 end 中間包圍的就是函式體。用來寫具體的邏輯。
(5)declare 用來宣告變數,並且可以用 default 設定預設值。
這裡定義的 ids 即作為整個函式的返回值,是用來拼接成最終我們需要的以逗號分隔的遞迴串的。
而 tempids 是為了記錄下邊 while 迴圈中臨時生成的所有子節點以逗號拼接成的字串。
(6) set 用來給變數賦值。此處把傳進來的根節點賦值給 tempids 。
(7) while do ... end while; 迴圈語句,迴圈邏輯包含在內。注意,end while 末尾需要加上分號。
迴圈體內,先用 CONCAT_WS 函式把最終結果 ids 和 臨時生成的 tempids 用逗號拼接起來。
然後以 FIND_IN_SET(pid,tempids)>0 為條件,遍歷在 tempids 中的所有 pid ,尋找以此為父節點的所有子節點 id ,並且通過 GROUP_CONCAT(id) into tempids 把這些子節點 id 都用逗號拼接起來,並覆蓋更新 tempids 。
等下次迴圈進來時,就會再次拼接 ids ,並再次查詢所有子節點的所有子節點。迴圈往復,一層一層的向下遞迴遍歷子節點。直到判斷 tempids 為空,說明所有子節點都已經遍歷完了,就結束整個迴圈。
這裡,用 '1000' 來舉例,即是:(參看圖1的表資料關係)
第一次迴圈:
tempids=1000 ids=1000 tempids=1001,1002 (1000的所有子節點)
第二次迴圈:
tempids=1001,1002 ids=1000,1001,1002 tempids=1003,1004,1005,1013 (1001和1002的所有子節點)
第三次迴圈:
tempids=1003,1004,1005,1013
ids=1000,1001,1002,1003,1004,1005,1013
tempids=1003和1004和1005及1013的所有子節點
...
最後一次迴圈,因找不到子節點,tempids=null,就結束迴圈。
(8)return ids; 用於把 ids 作為函式返回值返回。
(9)函式體結束以後,記得用結束符 $$ 來結束整個邏輯,並執行。
(10)最後別忘了,把結束符重新設定為預設的結束符分號 。
自定義函式做好之後,我們就可以用它來遞迴查詢我們需要的資料了。如,我查詢北京研發部的所有子節點。
以上是向下遞迴查詢所有子節點的,並且包括了當前節點,也可以修改邏輯為不包含當前節點,我就不演示了。
手動實現遞迴查詢(向上遞迴)
相對於向下遞迴來說,向上遞迴比較簡單。
因為向下遞迴時,每一層遞迴一個父節點都對應多個子節點。
而向上遞迴時,每一層遞迴一個子節點只對應一個父節點,關係比較單一。
同樣的,我們可以定義一個函式 get_parent_list 來獲取根節點的所有父節點。
delimiter $$
drop function if exists get_parent_list$$
create function get_parent_list(in_id varchar(10)) returns varchar(1000)
begin
declare ids varchar(1000);
declare tempid varchar(10);
set tempid = in_id;
while tempid is not null do
set ids = CONCAT_WS(',',ids,tempid);
select pid into tempid from dept where id=tempid;
end while;
return ids;
end
$$
delimiter ;
查詢北京研發二部一小組,以及它的遞迴父節點,如下:
注意事項
我們用到了 group_concat 函式來拼接字串。但是,需要注意它是有長度限制的,預設為 1024 位元組。可以通過 show variables like "group_concat_max_len";
來檢視。
注意,單位是位元組,不是字元。在 MySQL 中,單個字母佔1個位元組,而我們平時用的 utf-8下,一個漢字佔3個位元組。
這個對於遞迴查詢還是非常致命的。因為一般遞迴的話,關係層級都比較深,很有可能超過最大長度。(儘管一般拼接的都是數字字串,即單位元組)
所以,我們有兩種方法解決這個問題:
-
修改 MySQL 配置檔案 my.cnf ,增加
group_concat_max_len = 102400 #你要的最大長度
。 -
執行以下任意一個語句。
SET GLOBAL group_concat_max_len=102400;
或者SET SESSION group_concat_max_len=102400;
他們的區別在於,global是全域性的,任意開啟一個新的會話都會生效,但是注意,已經開啟的當前會話並不會生效。而 session 是隻會在當前會話生效,其他會話不生效。
共同點是,它們都會在 MySQL 重啟之後失效,以配置檔案中的配置為準。所以,建議直接修改配置檔案。102400 的長度一般也夠用了。假設一個id的長度為10個位元組,也能拼上一萬個id了。
除此之外,使用 group_concat 函式還有一個限制,就是不能同時使用 limit 。如,
本來只想查5條資料來拼接,現在不生效了。
不過,如果需要的話,可以通過子查詢來實現,