JVM-垃圾收集演算法基礎

傑哥很忙發表於2021-06-05
JVM演算法

目錄

目錄

JVM-執行時資料區域
JVM-物件及其記憶體佈局
JVM-垃圾收集演算法基礎

前言

上一篇文章對JVM的物件的記憶體佈局以及物件建立邏輯等內容進行了梳理，本篇文章對常見的垃圾回收演算法以及HotSpot垃圾回收器進行深入解析。

手動釋放記憶體導致的問題

在託管程式碼出現之前，我們申請一片記憶體使用完後，需要手動釋放記憶體。手動釋放有以下幾個問題。

  1. 忘記釋放

忘記釋放記憶體，會導致記憶體溢位。程式長時間申請的記憶體一直不釋放。最終可能導致程式記憶體佔滿。

  1. 重複釋放

忘記釋放對程式本身的執行的正確性不會產生影響，另一種更嚴重的問題是重複釋放。當已經釋放過後，該地址被其他地方重新分配。此時又再次釋放或使用了該記憶體，可能會導致無法預料的現象。

int* p = new int(5);
*p = 5;
delete p;
delete p;//此時p指向的地址可能被重新分配使用

部分編譯器會阻止重複釋放的問題，良好的編碼是在delete後將指標置空。

  1. 釋放型別錯誤

建立的是陣列，釋放的不是陣列。這種情況若建立的時基本型別，那麼不會有什麼問題，但是建立元素不是基本型別而是物件，由於new T[n]實際分配的記憶體空間是n*sizeof(T) + 4,額外的4個位元組用於存放陣列元素個數。在呼叫delete []時，前面4個位元組記錄的元素個數分別執行各個元素的解構函式，然後呼叫free (p-4)釋放記憶體。

Tclass * p = new Tclass[20];
p[0] = 1;
delete p; //應該使用delete []
  1. 記憶體釋放錯誤
int a = 200;
int b = 500;
int *p = new int(a); 
p = &b;  //(1)

delete p;   
p = NULL;

在delete p時會有2個問題。

  1. p原來指向的地址成了記憶體洩漏(new int產生的地址) ，因為沒釋放。
  2. p原先指向的是堆記憶體, 後續操作已經指向區域性變數（棧空間）物件地址了，而棧空間是無須進行delete的，因此delete 棧空間時會報錯。

垃圾判定方法

由於手動釋放記憶體可能導致各種問題，因此在C、C++等非託管語言中，程式設計師手動進行記憶體管理，需要非常小心。
為了避免上述手動記憶體管理造成的問題，因此出現了自動管理記憶體的GC演算法。把記憶體管理交給計算機，避免了手動釋放記憶體導致的問題。
自動記憶體管理做了2件事情：找出垃圾和回收垃圾，使得該記憶體可以重複使用。通常不需要再使用（不被引用）的物件被稱為垃圾，發現和釋放被垃圾佔用的空間稱為垃圾收集。

那麼如何才能確定哪些物件是垃圾？目前主要有2種方法，引用計數法和可達性分析法。

哪些物件是垃圾？

引用計數演算法

1960年，George E. Collins 在論文中釋出了叫作引用計數的GC演算法。引用計數法中引入了一個概念，那就是“計數器”。計數器表示的是物件引用了這個物件（被引用數）。計數器是無符號的整數，用於儲存計數器的空間大小根據演算法和實現而有所不同。每當有一個物件引用自己，就把自己的引用計數+1。每當一個物件不再引用自己，就把自己的引用計數-1，當引用計數為0時，則表示物件成為垃圾，記憶體就可以被回收。

假設一開始有ABC三個物件，其中A引用了B，A和C被根（比如棧幀中的區域性變數表）引用。此時他們的計數都為1。
20210309155748.png

接下來A引用了C，B不再被A引用。此時B的引用計數歸0，B的記憶體就被空閒連結串列所連線，下次B的記憶體可以被重新分配重複使用。而C的引用計數從1變為2。

20210309155806.png

在引用計數法中，每個物件始終都知道自己的被引用數。當被引用數的值為0時，物件馬上就會把自己作為空閒空間連線到空閒連結串列。也就是物件的記憶體空間可以被立即回收，垃圾回收效率非常高。但是引用計數法有個致命缺點，就是無法處理迴圈引用。
假設A和B物件存在迴圈引用，在方法執行的時候他們的引用計數都為2。
20210309160758.png
當方法執行完，棧幀彈出後，A和B物件的引用計數減為1，此時由於他們計數永遠無法到0，因此他們的記憶體無法被釋放。

20210309161007.png

引用計數法除了無法處理迴圈引用的問題外，還有幾個其他的問題，比如每次指標更新都需要更新計數器，計數器需要佔用空間等。為了解決引用計數法的一些缺點，衍生出許多其他的引用計數法，比如延遲引用計數法、Sticky引用計數法、Sticky引用計數法等，這裡不做具體討論。

由於引用計數法無法解決迴圈引用問題，因此Hotspot VM的堆區域的垃圾收集演算法並沒有採用引用計數法。而方法區中的執行時常量池（比如字串表）因為不存在迴圈引用的問題，因此採用了引用計數法。

可達性分析法

當前主流的商用程式語言（Java、C#，上溯至前面提到的古老的Lisp）的記憶體管理系統，都是通過可達性分析（Reachability Analysis） 演算法來判定物件是否存活的。這個演算法的基本思路就是通過一系列稱為GC Roots的根物件作為起始節點集，從這些節點開始，根據引用關係向下搜尋，搜尋過程所走過的路徑稱為“引用鏈”（Reference Chain），如果某個物件到GC Roots間沒有任何引用鏈相連，或者用圖論的話來說就是從GC Roots到這個物件不可達時，則證明此物件是不可能再被使用的。

在JVM中GC Roots包括以下幾種：

  1. 虛擬機器棧引用的物件（實際是棧幀中的區域性變數表引用的物件），如某方法的引數、區域性變數等。
  2. 方法區中靜態變數引用的物件，如類中的靜態引用型別變數。
  3. 方法區中常量引用的物件，比如字串表的引用。
  4. 本地方法棧中JNI引用的物件。Java方法需要呼叫Native方法都需要通過JVM提供的JNI進行呼叫。
  5. 以及其他JVM內部的引用，比如如klass物件，一些常駐的異常物件（比如NullPointExcepiton、OutOfMemoryError）等，系統類載入器，被同步鎖（synchronized關鍵字）持有的物件，原生程式碼快取等。

垃圾收集演算法

通過引用計數法和可達性分析法，我們可以找出哪些是垃圾。找出垃圾，需要將垃圾清除。
前面說了引用計數法的垃圾清除非常簡單，只要計數為0時，就可以將物件佔用的記憶體空間加入到空閒連結串列中。記憶體就可以被回收利用。但是可達性分析法的垃圾清除並不容易。可達性分析並不是物件變為垃圾時就能立即回收。它需要一個查詢的過程，通過查詢整個堆空間或部分堆空間找出垃圾。然後才能對垃圾進行清除。19世紀60年代產生了幾種垃圾收集演算法，一直使用到現在。這些演算法包括標記-清除、標記-複製和標記-整理。

標記-清除

最早出現的垃圾收集演算法是 標記-清除（Mark-Sweep） 演算法，Lisp之父和人工智慧之父John McCarthy在1960年在其論文中首次提到了該GC演算法。

標記-清除演算法和名字一樣，包含2個步驟：

  • 標記階段：遍歷GC Roots標記所有存活物件。
  • 清除階段：遍歷整個堆，回收所有沒有被標記的物件，將垃圾物件的記憶體空間連線到空閒連結串列。

當然也可以標記所有不存活物件，清理所有被標記物件。

標記-清除.gif

回收前記憶體
20210310151238.png

回收後記憶體
20210310152727.png

優點

  1. 無需移動指標
    由於標記-清除演算法只清除記憶體，而不壓縮記憶體，因此物件地址不會發生改變，物件不移動時可以與其他GC演算法相互組合使用。
  2. 實現簡單
    標記-清除只需要2個步驟，實現非常簡單，與其他GC演算法組合起來也就很簡單了。
    在Hotspot虛擬機器中，標記-清除演算法通常用在老年代。比如CMS垃圾收集器的老年代就是使用標記-清除演算法。

缺點

  1. 記憶體碎片

    可以發現標記-清除有個嚴重的問題就是會造成記憶體碎片。當清理階段時，會將垃圾物件空間插入到空閒連結串列中，若多個回收區域記憶體是連續的，還會將他們合併成一個空間。另外由於標記-清除演算法會出現記憶體碎片，還會導致分配物件的效率降低。

  2. 物件分配速度慢

    當分配物件的時候，需要則遍歷每個空閒連結串列的節點。通常使用空閒連結串列有三種分配方式：First-fit、Best-fit和Worst-fit。

    • First-fit: First-fit優先找到第一塊大於或等於需要分配記憶體大小的空閒塊。如果空閒塊大於所需分配的記憶體時將其分割為2塊。
    • Best-fit: Best-fit會遍歷整個空閒連結串列，儘可能找到最適合的記憶體塊，它會找到大於或等於需要分配記憶體大小的最小分塊。
    • Worst-fit: Worst-fit會找出空閒連結串列中最大的分塊，將其分割成mutator申請的大小和分割後剩餘的大小，目的是將分割後剩餘的分塊最大化。但因為Worst-fit很容易生成大量小的分塊，一般不推薦使用。

  3. 與寫時複製技術不相容
    標記-清除 演算法除了會產生記憶體碎片以外，還無法和寫時複製技術一起使用。由於 標記-清除 演算法需要修改物件頭部的標記用於記錄物件是否存活，因此，發生GC時，存活的物件頭部的標記就會被修改，從而導致出現記憶體複製。

    寫時複製可以通過共享記憶體的方式將同一份記憶體空間共享給多個程式使用，而當記憶體被修改時，則需要複製程式私有的記憶體空間並修改。發生寫時複製後該程式只能訪問私有的空間。從而在只讀的情況下提高記憶體使用效率。

  4. 吞吐量與堆大小相關

    標記-清除 演算法在清除階段需要遍歷整個堆，找到沒有標記的物件進行清除。因此隨著堆增大，GC效率就會降低。

優化

為了解決 標記-清除 演算法由於記憶體碎片導致物件分配速度慢的問題，衍生出一些優秀的演算法。

  1. 多個空閒連結串列：將不同大小的空閒塊分組，提高記憶體分配速度。
  2. BiBOP（Big Bag Of Pages）法：把堆分割成固定大小的塊，讓每個塊只能配置同樣大小的物件。分配指定大小的物件，直接找到對應的塊進行分配。
  3. 點陣圖標記：將物件標記從物件頭提取出，放在一個單獨的點陣圖表格種，使得標記-清除演算法與寫時複製技術相容。
  4. 延遲清除法：由於清除演算法需要遍歷整個堆，因此將清除步驟延遲到建立物件的步驟處理，降低最大暫停時間。清除演算法會記錄上一次清除的位置，當建立物件的時候，會從上一次清除的位置繼續向後清除，因此不會遍歷整個堆。

標記-複製

標記-清除 演算法高效的同時帶來了記憶體碎片的問題，而引用計數法又無法回收迴圈引用的物件。
1963年，也有“人工智慧之父”之稱的Marvin L. Minsky在論文中釋出了複製演算法。
1969年，Fenichel提出了一種稱為“半區複製”（Semispace Copying）的垃圾收集演算法，它將可用記憶體按容量劃分為大小相等的兩塊。一塊稱為From空間，另一塊稱為To空間。將From空間的內容複製到To空間，然後把From空間進行清理。

標記-複製演算法包含3個步驟：

  • 劃分割槽域：將記憶體分為2塊等大的區域。
  • 複製：將存活的物件從From區域複製到To區域。
  • 清除：將From區域進行整體清除。
  • 互換：將From區域和To區域互換。原來的To區域變為新的From區域，原來的From區域變為新的To區域。

標記-複製.gif

回收前記憶體
20210310154453.png

回收後記憶體
20210310160119.png

優點

  1. 無碎片化

    從上面的過程可以發現，標記-複製 演算法處理完後，記憶體就處於規整狀態。就不會發生實際可用記憶體足夠，但是卻沒有足夠的記憶體塊分配大物件的情況。

  2. 物件分配速度快

    由於標記-複製演算法不會產生碎片，因此分配物件的邏輯就非常簡單快速。在JVM-物件及其記憶體佈局也提到了，當記憶體規整時，可以使用 指標碰撞 的方式快速的分配物件。而無需遍歷空閒連結串列。

  3. GC吞吐量高

    標記-複製 演算法使用深度優先搜尋的方式遍歷每個GC Roots物件。先將根物件和根物件的所有引用的子物件複製到To區域，再處理下一個根物件。在清理時直接清理整個From區域，無需遍歷整個堆。因此 標記-複製 演算法的效率與堆大小無關，只與存活物件（被GC根引用的物件）數量相關。

  4. 與快取相容

    標記-複製 演算法會將引用相關的物件按續排放，可以充分利用快取實現高速訪問。

缺點

  1. 記憶體利用率低

    由於 標記-複製 演算法將區域分為兩半，只有一半可以使用，因此會造成記憶體的浪費。相當於使用空間換時間，且空間的成本相對較高。

  2. 物件移動

    標記-複製演算法每次都會移動物件，因此與一些要求物件不移動的GC演算法不相容。

    比如某個地址上存的不是物件地址而是具體的數值時，複製演算法會導致該地址更新為新的值（地址）。

  3. 遞迴呼叫

    普通的 標記-複製 演算法會遞迴呼叫子物件重複 標記-複製 操作，就會存在執行新的方法而建立棧幀，增加額外的資源消耗。不過在1970年出現了迭代式的 標記-複製 演算法，解決了這個問題。

優化

  1. 1970年，C. J. Cheney研究出了迭代式標記-複製GC演算法，優化了傳統遞迴呼叫導致的資源佔用問題。
  2. 1991年，Paul R. Wilson、Michael S. Lam和Thomas G. Moher提出的近似深度優先搜尋法，解決了迭代式標記-複製GC演算法由於廣度優先搜尋策略造成無法重複使用快取的問題。
  3. 另外還出現了多空間複製演算法，優化了堆使用率。傳統的複製演算法只能利用一半的堆空間。而多空間複製演算法採用組合演算法方式進行垃圾收集，該演算法將堆分為10份，其中2份使用複製演算法，另外8份採用標記-清除演算法。
  4. 在JVM中，採用的是1989年Andrew Appel針對具備“朝生夕滅”特點的物件，研究出的半區複製分代策略，現在稱為“Appel式回收”。它僅僅使用整個堆中的一小塊使用標記-複製演算法，從而提高記憶體使用率。

標記-整理

標記-複製 演算法解決了 標記-清除 演算法記憶體碎片的問題，但是也同時帶來另一個問題，就是記憶體使用率低的問題。1974年Edward Lueders提出了另外一種有針對性的 標記-整理（Mark-Compact） 演算法(也可以叫標記-壓縮演算法)。

標記-整理 演算法包含2個步驟：

  • 標記階段：標記所有可回收的物件。
  • 整理階段：分為3個步驟
    • 查詢新地址
    • 更新指標
    • 移動物件。

    在最基本的 標記-整理 演算法，每個步驟都需要遍歷整個堆。

標記-整理.gif

標記-整理 演算法解決了 標記-複製 演算法的空間佔用問題，但是由於整理階段需要遍歷多次堆，因此效能相比其他兩種GC演算法，也會差很多。可以發現每種垃圾回收演算法都有自己的優點和缺點。並不存在一個完美的演算法能夠同時兼顧空間和時間。

回收前記憶體
20210312105952.png

回收後記憶體
20210312105853.png

優點

  1. 堆利用率高
    能夠使用全部的堆記憶體。不像 標記-清除 和 標記-複製 演算法只能使用部分堆記憶體。
  2. 不會產生記憶體碎片
    由於 標記-整理 會整理堆，使其變為規整。因此不會產生記憶體碎片，另外物件的分配速度也很快。

缺點

由於整理階段，需要多次遍歷整個堆。因此GC效能較差，甚至可能長時間出現停頓（STW）現象。

優化

  1. Robert A. Saunders研究出來的名為Two-Finger的壓縮演算法，只需要搜尋兩次堆，比傳統的演算法少一次堆的搜尋，但是該演算法要求所有物件大小必須一致，且不會按物件原來的順序進行壓縮（無法使用CPU快取記憶體）。
  2. B. K. Haddon和W. M. Waite於1967年研究出來的表格演算法，該演算法比較複雜，但是解決了Two-Finger會導致物件順序改變的問題，可以通過快取提高訪問速度。
  3. Stephen M. Blackburn和Kathryn S. McKinley於2008年研究出來的ImmixGC演算法，將標記-清除演算法和壓縮組合使用。由於存在標記-清除演算法，因此存在記憶體碎片的情況。另外該演算法堆記憶體分塊處理，在極端情況可能會導致一個塊只能存一個物件導致記憶體使用率不高，另外該演算法在壓縮的時候也不會顧及物件原始順序。

參考文件

  1. 《垃圾回收演算法與實現》
  2. 《深入理解Java虛擬機器》

20191127212134.png
微信掃一掃二維碼關注訂閱號傑哥技術分享
出處：https://www.cnblogs.com/Jack-Blog/p/14853396.html
作者：傑哥很忙
本文使用「CC BY 4.0」創作共享協議。歡迎轉載，請在明顯位置給出出處及連結。

相關文章