JVM原理講解和調優，記憶體管理和垃圾回收，記憶體調優

轉自 http://blog.csdn.net/hjxgood/article/details/53896229
一、什麼是JVM

JVM是Java Virtual Machine（Java虛擬機器）的縮寫，JVM是一種用於計算裝置的規範，它是一個虛構出來的計算機，是通過在實際的計算機上模擬模擬各種計算機功能來實現的。

Java語言的一個非常重要的特點就是與平臺的無關性。而使用Java虛擬機器是實現這一特點的關鍵。一般的高階語言如果要在不同的平臺上執行，至少需要編譯成不同的目的碼。而引入Java語言虛擬機器後，Java語言在不同平臺上執行時不需要重新編譯。Java語言使用Java虛擬機器遮蔽了與具體平臺相關的資訊，使得Java語言編譯程式只需生成在Java虛擬機器上執行的目的碼（位元組碼），就可以在多種平臺上不加修改地執行。Java虛擬機器在執行位元組碼時，把位元組碼解釋成具體平臺上的機器指令執行。這就是Java的能夠“一次編譯，到處執行”的原因。

從Java平臺的邏輯結構上來看，我們可以從下圖來了解JVM：

從上圖能清晰看到Java平臺包含的各個邏輯模組，也能瞭解到JDK與JRE的區別，對於JVM自身的物理結構，我們可以從下圖鳥瞰一下：

二、JAVA程式碼編譯和執行過程

Java程式碼編譯是由Java原始碼編譯器來完成，流程圖如下所示：

Java位元組碼的執行是由JVM執行引擎來完成，流程圖如下所示：

ava程式碼編譯和執行的整個過程包含了以下三個重要的機制：

• Java原始碼編譯機制

• 類載入機制

• 類執行機制

Java原始碼編譯機制

Java 原始碼編譯由以下三個過程組成：

• 分析和輸入到符號表

• 註解處理

• 語義分析和生成class檔案

流程圖如下所示：

最後生成的class檔案由以下部分組成：

• 結構資訊。包括class檔案格式版本號及各部分的數量與大小的資訊

• 後設資料。對應於Java原始碼中宣告與常量的資訊。包含類/繼承的超類/實現的介面的宣告資訊、域與方法宣告資訊和常量池

• 方法資訊。對應Java原始碼中語句和表示式對應的資訊。包含位元組碼、異常處理器表、求值棧與區域性變數區大小、求值棧的型別記錄、除錯符號資訊

類載入機制

JVM的類載入是通過ClassLoader及其子類來完成的，類的層次關係和載入順序可以由下圖來描述：

1）Bootstrap ClassLoader

負責載入$JAVA_HOME中jre/lib/rt.jar裡所有的class，由C++實現，不是ClassLoader子類

2）Extension ClassLoader

負責載入java平臺中擴充套件功能的一些jar包，包括$JAVA_HOME中jre/lib/*.jar或-Djava.ext.dirs指定目錄下的jar包

3）App ClassLoader

負責記載classpath中指定的jar包及目錄中class

4）Custom ClassLoader

屬於應用程式根據自身需要自定義的ClassLoader，如tomcat、jboss都會根據j2ee規範自行實現ClassLoader載入過程中會先檢查類是否被已載入，檢查順序是自底向上，從Custom ClassLoader到BootStrap ClassLoader逐層檢查，只要某個classloader已載入就視為已載入此類，保證此類只所有ClassLoader載入一次。而載入的順序是自頂向下，也就是由上層來逐層嘗試載入此類。

類執行機制

JVM是基於棧的體系結構來執行class位元組碼的。執行緒建立後，都會產生程式計數器（PC）和棧（Stack），程式計數器存放下一條要執行的指令在方法內的偏移量，棧中存放一個個棧幀，每個棧幀對應著每個方法的每次呼叫，而棧幀又是有區域性變數區和運算元棧兩部分組成，區域性變數區用於存放方法中的區域性變數和引數，運算元棧中用於存放方法執行過程中產生的中間結果。棧的結構如下圖所示：

三、JVM記憶體管理和垃圾回收

JVM記憶體組成結構

JVM棧由堆、棧、本地方法棧、方法區等部分組成，結構圖如下所示：

1）堆

所有通過new建立的物件的記憶體都在堆中分配，堆的大小可以通過-Xmx和-Xms來控制。堆被劃分為新生代和舊生代，新生代又被進一步劃分為Eden和Survivor區，最後Survivor由From Space和To Space組成，結構圖如下所示：

• 新生代。新建的物件都是用新生代分配記憶體，Eden空間不足的時候，會把存活的物件轉移到Survivor中，新生代大小可以由-Xmn來控制，也可以用-XX:SurvivorRatio來控制Eden和Survivor的比例

• 舊生代。用於存放新生代中經過多次垃圾回收仍然存活的物件

• 持久帶（Permanent Space）實現方法區，主要存放所有已載入的類資訊，方法資訊，常量池等等。可通過-XX:PermSize和-XX:MaxPermSize來指定持久帶初始化值和最大值。Permanent Space並不等同於方法區，只不過是Hotspot JVM用Permanent Space來實現方法區而已，有些虛擬機器沒有Permanent Space而用其他機制來實現方法區。

-Xmx:最大堆記憶體,如：-Xmx512m

-Xms:初始時堆記憶體,如：-Xms256m

-XX:MaxNewSize:最大年輕區記憶體

-XX:NewSize:初始時年輕區記憶體.通常為 Xmx 的 1/3 或 1/4。新生代 = Eden + 2 個 Survivor 空間。實際可用空間為 = Eden + 1 個 Survivor，即 90%

-XX:MaxPermSize:最大持久帶記憶體

-XX:PermSize:初始時持久帶記憶體

-XX:+PrintGCDetails。列印 GC 資訊

-XX:NewRatio 新生代與老年代的比例，如 –XX:NewRatio=2，則新生代佔整個堆空間的1/3，老年代佔2/3

-XX:SurvivorRatio 新生代中 Eden 與 Survivor 的比值。預設值為 8。即 Eden 佔新生代空間的 8/10，另外兩個 Survivor 各佔 1/10

2）棧

每個執行緒執行每個方法的時候都會在棧中申請一個棧幀，每個棧幀包括區域性變數區和運算元棧，用於存放此次方法呼叫過程中的臨時變數、引數和中間結果。

-xss:設定每個執行緒的堆疊大小. JDK1.5+ 每個執行緒堆疊大小為 1M，一般來說如果棧不是很深的話， 1M 是絕對夠用了的。

3）本地方法棧

用於支援native方法的執行，儲存了每個native方法呼叫的狀態

4）方法區

存放了要載入的類資訊、靜態變數、final型別的常量、屬性和方法資訊。JVM用持久代（Permanet Generation）來存放方法區，可通過-XX:PermSize和-XX:MaxPermSize來指定最小值和最大值

垃圾回收按照基本回收策略分

引用計數（Reference Counting）:

比較古老的回收演算法。原理是此物件有一個引用，即增加一個計數，刪除一個引用則減少一個計數。垃圾回收時，只用收集計數為0的物件。此演算法最致命的是無法處理迴圈引用的問題。

標記-清除（Mark-Sweep）:

此演算法執行分兩階段。第一階段從引用根節點開始標記所有被引用的物件，第二階段遍歷整個堆，把未標記的物件清除。此演算法需要暫停整個應用，同時，會產生記憶體碎片。

複製（Copying）:

此演算法把記憶體空間劃為兩個相等的區域，每次只使用其中一個區域。垃圾回收時，遍歷當前使用區域，把正在使用中的物件複製到另外一個區域中。演算法每次只處理正在使用中的物件，因此複製成本比較小，同時複製過去以後還能進行相應的記憶體整理，不會出現“碎片”問題。當然，此演算法的缺點也是很明顯的，就是需要兩倍記憶體空間。

標記-整理（Mark-Compact）:

此演算法結合了“標記-清除”和“複製”兩個演算法的優點。也是分兩階段，第一階段從根節點開始標記所有被引用物件，第二階段遍歷整個堆，把清除未標記物件並且把存活物件“壓縮”到堆的其中一塊，按順序排放。此演算法避免了“標記-清除”的碎片問題，同時也避免了“複製”演算法的空間問題。

JVM分別對新生代和舊生代採用不同的垃圾回收機制

   新生代的GC：

   新生代通常存活時間較短，因此基於Copying演算法來進行回收，所謂Copying演算法就是掃描出存活的物件，並複製到一塊新的完全未使用的空間中，對應於新生代，就是在Eden和From Space或To Space之間copy。新生代採用空閒指標的方式來控制GC觸發，指標保持最後一個分配的物件在新生代區間的位置，當有新的物件要分配記憶體時，用於檢查空間是否足夠，不夠就觸發GC。當連續分配物件時，物件會逐漸從eden到survivor，最後到舊生代。

在執行機制上JVM提供了序列GC（Serial GC）、並行回收GC（Parallel Scavenge）和並行GC（ParNew）

1）序列GC

在整個掃描和複製過程採用單執行緒的方式來進行，適用於單CPU、新生代空間較小及對暫停時間要求不是非常高的應用上，是client級別預設的GC方式，可以通過-XX:+UseSerialGC來強制指定

2）並行回收GC

在整個掃描和複製過程採用多執行緒的方式來進行，適用於多CPU、對暫停時間要求較短的應用上，是server級別預設採用的GC方式，可用-XX:+UseParallelGC來強制指定，用-XX:ParallelGCThreads=4來指定執行緒數

3）並行GC

與舊生代的併發GC配合使用

舊生代的GC：

舊生代與新生代不同，物件存活的時間比較長，比較穩定，因此採用標記（Mark）演算法來進行回收，所謂標記就是掃描出存活的物件，然後再進行回收未被標記的物件，回收後對用空出的空間要麼進行合併，要麼標記出來便於下次進行分配，總之就是要減少記憶體碎片帶來的效率損耗。在執行機制上JVM提供了序列GC（Serial MSC）、並行GC（parallel MSC）和併發GC（CMS），具體演算法細節還有待進一步深入研究。

以上各種GC機制是需要組合使用的，指定方式由下表所示：

|

指定方式

|

新生代GC方式

|

舊生代GC方式

|
|

-XX:+UseSerialGC

|

序列GC

|

序列GC

|
|

-XX:+UseParallelGC

|

並行回收GC

|

並行GC

|
|

-XX:+UseConeMarkSweepGC

|

並行GC

|

併發GC

|
|

-XX:+UseParNewGC

|

並行GC

|

序列GC

|
|

-XX:+UseParallelOldGC

|

並行回收GC

|

並行GC

|
|

-XX:+ UseConeMarkSweepGC

-XX:+UseParNewGC

|

序列GC

|

併發GC

|
|

不支援的組合

|

1、-XX:+UseParNewGC -XX:+UseParallelOldGC

2、-XX:+UseParNewGC -XX:+UseSerialGC

|

四、JVM記憶體調優

首先需要注意的是在對JVM記憶體調優的時候不能只看作業系統級別Java程式所佔用的記憶體，這個數值不能準確的反應堆記憶體的真實佔用情況，因為GC過後這個值是不會變化的，因此記憶體調優的時候要更多地使用JDK提供的記憶體檢視工具，比如JConsole和Java VisualVM。

對JVM記憶體的系統級的調優主要的目的是減少GC的頻率和Full GC的次數，過多的GC和Full GC是會佔用很多的系統資源（主要是CPU），影響系統的吞吐量。特別要關注Full GC，因為它會對整個堆進行整理，導致Full GC一般由於以下幾種情況：

舊生代空間不足
調優時儘量讓物件在新生代GC時被回收、讓物件在新生代多存活一段時間和不要建立過大的物件及陣列避免直接在舊生代建立物件

Pemanet Generation空間不足
增大Perm Gen空間，避免太多靜態物件

統計得到的GC後晉升到舊生代的平均大小大於舊生代剩餘空間
控制好新生代和舊生代的比例 

System.gc()被顯示呼叫
垃圾回收不要手動觸發，儘量依靠JVM自身的機制

調優手段主要是通過控制堆記憶體的各個部分的比例和GC策略來實現，下面來看看各部分比例不良設定會導致什麼後果

1）新生代設定過小

一是新生代GC次數非常頻繁，增大系統消耗；二是導致大物件直接進入舊生代，佔據了舊生代剩餘空間，誘發Full GC

2）新生代設定過大

一是新生代設定過大會導致舊生代過小（堆總量一定），從而誘發Full GC；二是新生代GC耗時大幅度增加

一般說來新生代佔整個堆1/3比較合適

3）Survivor設定過小

導致物件從eden直接到達舊生代，降低了在新生代的存活時間

4）Survivor設定過大

導致eden過小，增加了GC頻率

另外，通過-XX:MaxTenuringThreshold=n來控制新生代存活時間，儘量讓物件在新生代被回收

由記憶體管理和垃圾回收可知新生代和舊生代都有多種GC策略和組合搭配，選擇這些策略對於我們這些開發人員是個難題，JVM提供兩種較為簡單的GC策略的設定方式

1）吞吐量優先

JVM以吞吐量為指標，自行選擇相應的GC策略及控制新生代與舊生代的大小比例，來達到吞吐量指標。這個值可由-XX:GCTimeRatio=n來設定

2）暫停時間優先

JVM以暫停時間為指標，自行選擇相應的GC策略及控制新生代與舊生代的大小比例，儘量保證每次GC造成的應用停止時間都在指定的數值範圍內完成。這個值可由-XX:MaxGCPauseRatio=n來設定

最後彙總一下JVM常見配置

堆設定

-Xms:初始堆大小

-Xmx:最大堆大小

-XX:NewSize=n:設定年輕代大小

-XX:NewRatio=n:設定年輕代和年老代的比值。如:為3，表示年輕代與年老代比值為1：3，年輕代佔整個年輕代年老代和的1/4

-XX:SurvivorRatio=n:年輕代中Eden區與兩個Survivor區的比值。注意Survivor區有兩個。如：3，表示Eden：Survivor=3：2，一個Survivor區佔整個年輕代的1/5

-XX:MaxPermSize=n:設定持久代大小

收集器設定

-XX:+UseSerialGC:設定序列收集器

-XX:+UseParallelGC:設定並行收集器

-XX:+UseParalledlOldGC:設定並行年老代收集器

-XX:+UseConcMarkSweepGC:設定併發收集器

垃圾回收統計資訊

-XX:+PrintGC

-XX:+PrintGCDetails

-XX:+PrintGCTimeStamps

-Xloggc:filename

並行收集器設定

-XX:ParallelGCThreads=n:設定並行收集器收集時使用的CPU數。並行收集執行緒數。

-XX:MaxGCPauseMillis=n:設定並行收集最大暫停時間

-XX:GCTimeRatio=n:設定垃圾回收時間佔程式執行時間的百分比。公式為1/(1+n)

併發收集器設定

-XX:+CMSIncrementalMode:設定為增量模式。適用於單CPU情況。

-XX:ParallelGCThreads=n:設定併發收集器年輕代收集方式為並行收集時，使用的CPU數。並行收集執行緒數