那我們借用 cs50 裡的例子,比如要把一摞卷子排好序,那用並歸排序的思想是怎麼做的呢?
首先把一摞卷子分成兩摞; 把每一摞排好序; 把排好序的兩摞再合併起來。
感覺啥都沒說?
那是因為上面的過程裡省略了很多細節,我們一個個來看。
首先分成兩摞的過程,均分,奇偶數無所謂,也就是多一個少一個的問題;
那每一摞是怎麼排好序的?
答案是用同樣的方法排好序。
排好序的兩摞是怎麼合併起來的?
這裡需要藉助兩個指標和額外的空間,然後左邊畫一個彩虹?右邊畫個龍?,不是,是左邊拿一個數,右邊拿一個數,兩個比較大小之後排好序放回到陣列裡(至於放回原陣列還是新陣列稍後再說)。
這其實就是分治法 divide-and-conquer 的思想。 歸併排序是一個非常典型的例子。
分治法
顧名思義:分而治之。
就是把一個大問題分解成相似的小問題,通過解決這些小問題,再用小問題的解構造大問題的解。
聽起來是不是和之前講遞迴的時候很像?
沒錯,分治法基本都是可以用遞迴來實現的。
在之前,我們沒有加以區分,當然現在我也認為不需要加以區分,但你如果非要問它們之間是什麼區別,我的理解是:
遞迴是一種程式設計技巧,一個函式自己呼叫自己就是遞迴; 分治法是一種解決問題的思想: 把大的問題分解成小問題的這個過程就叫“分”, 解決小問題的過程就叫“治”, 解決小問題的方法往往是遞迴。
所以分治法的三大步驟是:
「分」:大問題分解成小問題;
「治」:用同樣的方法解決小問題;
「合」:用小問題的解構造大問題的解。
那回到我們的歸併排序上來:
「分」:把一個陣列拆成兩個;
「治」:用歸併排序去排這兩個小陣列;
「合」:把兩個排好序的小陣列合併成大陣列。
這裡還有個問題,就是什麼時候能夠解決小問題了?
答:當只剩一個元素的時候,直接返回就好了,分解不了了。 這就是遞迴的 base case,是要直接給出答案的。
老例子:{5, 2, 1, 0}
暗示著齊姐對你們的愛啊~❤️
Step1.
先拆成兩半,
分成兩個陣列:{5, 2} 和 {1, 0}
Step2.
沒到 base case,所以繼續把大問題分解成小問題:
當然了,雖然左右兩邊的拆分我都叫它 Step2,但是它們並不是同時發生的,我在遞迴那篇文章裡有說原因,本質上是由馮諾伊曼體系造成的,一個 CPU 在某一時間只能處理一件事,但我之所以都寫成 Step2,是因為它們發生在同一層 call stack,這裡就不在 IDE 裡演示了,不明白的同學還是去看遞迴那篇文章裡的演示吧。
Step3.
這一層都是一個元素了,是 base case,可以返回併合並了。
Step4.
合併的過程就是按大小順序來排好,這裡藉助兩個指標來比較,以及一個額外的陣列來輔助完成。
比如在最後一步時,陣列已經變成了:
{2, 5, 0, 1},
那麼通過兩個指標 i 和 j,比較指標所指向元素的大小,把小的那個放到一個新的陣列?裡,然後指標相應的向右移動。
其實這裡我們有兩個選擇:
一種是從新陣列往原陣列合並, 另一種就是從原陣列往新陣列裡合併。
這個取決於題目要求的返回值型別是什麼;以及在實際工作中,我們往往是希望改變當前的這個陣列,把當前的這個陣列排好序,而不是返回一個新的陣列,所以我們採取從新陣列往原陣列合並的方式,而不是把結果存在一個新的陣列裡。
那具體怎麼合併的,大家可以看下15秒的小動畫:
擋板左右兩邊是分別排好序的,那麼合併的過程就是利用兩個指標,誰指的數字小,就把這個數放到結果裡,然後移動指標,直到一方到頭(出界)。
public class MergeSort {
public void mergeSort(int[] array) {
if(array == null || array.length <= 1) {
return;
}
int[] newArray = new int[array.length];
mergeSort(array, 0, array.length-1, newArray);
}
private void mergeSort(int[] array, int left, int right, int[] newArray) {
// base case
if(left >= right) {
return;
}
// 「分」
int mid = left + (right - left)/2;
// 「治」
mergeSort(array, left, mid, newArray);
mergeSort(array, mid + 1, right, newArray);
// 輔助的 array
for(int i = left; i <= right; i++) {
newArray[i] = array[i];
}
// 「合」
int i = left;
int j = mid + 1;
int k = left;
while(i <= mid && j <= right) {
if(newArray[i] <= newArray[j]) { // 等號會影響演算法的穩定性
array[k++] = newArray[i++];
} else {
array[k++] = newArray[j++];
}
}
if(i <= mid) {
array[k++] = newArray[i++];
}
}
}
寫的不錯,我再來講一下:
首先定義 base case,否則就會成無限遞迴死迴圈,那麼這裡是當未排序區間裡只剩一個元素的時候返回,即左右擋板重合的時候,或者沒有元素的時候返回。
「分」
然後定義小問題,先找到中點,
那這裡能不能寫成 (left+right)/2 呢? 注意⚠️,是不可以的哦。
雖然數學上是一樣的, 但是這樣寫, 有可能出現 integer overflow.
「治」
這樣我們拆好了左右兩個小問題,然後用“同樣的方法”解決這兩個自問題,這樣左右兩邊就都排好序了~
為什麼敢說這兩邊都排好序了呢? 因為有數學歸納法在後面撐著~
那在這裡,能不能把它寫成:
mergeSort(array, left, mid-1, newArray);
mergeSort(array, mid, right, newArray);
也就是說,
左邊是 [left, mid-1], 右邊是 [mid, right],
這樣對不對呢?
答案是否定的。
因為會造成無限遞迴。
最簡單的,舉個兩個數的例子,比如陣列為{1, 2}.
那麼 left = 0, right = 1, mid = 0.
用這個方法拆分的陣列就是:
[0, -1], [0, 1] 即: 空集,{1, 2}
所以這樣來分並沒有縮小問題,沒有把大問題拆解成小問題,這樣的“分”是錯誤的,會出現 stack overflow.
再深一層,究其根本原因,是因為 Java 中的小數是「向零取整」
。
所以這裡必須要寫成:
左邊是 [left, mid], 右邊是 [mid + 1, right]。
「合」
接下來就是合併的過程了。
在這裡我們剛才說過了,要新開一個陣列用來幫助合併,那麼最好是在上面的函式裡開,然後把引用往下傳。開一個,反覆用,這樣節省空間。
我們用兩個指標:i 和 j 指向新陣列,指標 k 指向原陣列,開始剛才動畫裡的移動過程。
要注意,這裡的等於號跟哪邊,會影響這個排序演算法的穩定性。不清楚穩定性的同學快去翻一下上一篇文章啦~
那像我程式碼中這種寫法,指標 i 指的是左邊的元素,遇到相等的元素也會先拷貝下來,所以左邊的元素一直在左邊,維持了相對順序,所以就是穩定的。
最後我們來分析下時空複雜度:
時間複雜度
歸併排序的過程涉及到遞迴,所以時空複雜度的分析稍微有點複雜,在之前「遞迴」的那篇文章裡我有提到,求解大問題的時間就是把所有求解子問題的時間加起來,再加上合併的時間。
我們在遞迴樹中具體來看:
這裡我右邊已經寫出來了:
「分」的過程,每次的時間取決於有多少個小問題,可以看出來是
1,2,4,8...這樣遞增的,
那麼加起來就是O(n).
「合」的過程,每次都要用兩個指標走完全程,每一層的 call stack 加起來用時是 O(n),總共有 logn 層,所以是 O(nlogn).
那麼總的時間,就是 O(nlogn).
空間複雜度
其實歸併排序的空間複雜度和程式碼怎麼寫的有很大的關係,所以我這裡分析的空間複雜度是針對我上面這種寫法的。
要注意的是,遞迴的空間複雜度的分析並不能像時間複雜度那樣直接累加,因為空間複雜度的定義是在程式執行過程中的使用空間的峰值,本身就是一個峰值而非累加值的概念。
那也就是 call stack 中,所使用空間最高的時刻,其實就是遞迴樹中最右邊的這條路線:它既要存著左邊排好序的那半邊結果,還要把右邊這半邊繼續排,總共是 O(n).
那有同學說 call stack 有 logn 層,為什麼不是 O(logn),因為每層的使用的空間不是 O(1) 呀。
擴充套件:外排序
這兩節介紹的排序演算法都屬於內部排序演算法,也就是排序的過程都是在記憶體中完成。
但在實際工作中,當資料量特別大時,或者說比記憶體容量還要大時,資料就無法一次性放入記憶體中,只能放在硬碟等外儲存器上,這就需要用到外部排序演算法演算法來完成。一個典型的外排序演算法就是外歸併排序(External Merge Sort)。
這才是一道有意思的面試題,在經典演算法的基礎上,加上實際工作中的限制條件,和麵試官探討的過程中,就能看出 candidate 的功力。
要解決這個問題,其實是要明確這裡的限制條件是什麼:
首先是記憶體不夠。那除此之外,我們還想儘量少的進行硬碟的讀寫,因為很慢啊。
比如就拿wiki[1]上的例子,要對 900MB 的資料進行排序,但是記憶體只有 100MB,那麼怎麼排呢?
wiki 中給出的是讀 100MB 資料至記憶體中,我並不贊同,因為無論是歸併排序還是快排都是要費空間的,剛說的空間複雜度 O(n) 不是,那資料把記憶體都佔滿了,還怎麼執行程式?那我建議比如就讀取 10MB 的資料,那就相當於把 900MB 的資料分成了 90 份; 在記憶體中排序完成後寫入磁碟; 把這 90 份資料都排好序,那就會產生 90 個臨時檔案; 用 k-way merge 對著 90 個檔案進行合併,比如每次讀取每個檔案中的 1MB 拿到記憶體裡來 merge,保證加起來是小於記憶體容量且能保證程式能夠執行的。
那這是在一臺機器上的,如果資料量再大,比如在一個分散式系統,那就需要用到 Map-Reduced 去做歸併排序,感興趣的同學就繼續關注我吧~
如果你喜歡這篇文章,記得給我點贊留言哦~你們的支援和認可,就是我創作的最大動力,我們下篇文章見!
我是小齊,紐約程式媛,終生學習者,每天晚上 9 點,雲自習室裡不見不散!
更多幹貨文章見我的 Github: https://github.com/xiaoqi6666/NYCSDE
參考資料
外排序: https://zh.wikipedia.org/wiki/%E5%A4%96%E6%8E%92%E5%BA%8F