基本功 | Java即時編譯器原理解析及實踐

一、導讀

二、Java的執行過程

1. JVM中的編譯器

• 區域性簡單可靠的最佳化，比如位元組碼上進行的一些基礎最佳化，方法內聯、常量傳播等，放棄許多耗時較長的全域性最佳化。
• 將位元組碼構造成高階中間表示（High-level Intermediate Representation，以下稱為HIR），HIR與平臺無關，通常採用圖結構，更適合JVM對程式進行最佳化。
• 最後將HIR轉換成低階中間表示（Low-level Intermediate Representation，以下稱為LIR），在LIR的基礎上會進行暫存器分配、窺孔最佳化（區域性的最佳化方式，編譯器在一個基本塊或者多個基本塊中，針對已經生成的程式碼，結合CPU自己指令的特點，透過一些認為可能帶來效能提升的轉換規則或者透過整體的分析，進行指令轉換，來提升程式碼效能）等操作，最終生成機器碼。

• 前文有提到，JVM會在解釋執行的時候收集程式執行的各種資訊，然後編譯器會根據這些資訊進行一些基於預測的激進最佳化，比如分支預測，根據程式不同分支的執行機率，選擇性地編譯一些機率較大的分支。Graal比C2更加青睞這種最佳化，所以Graal的峰值效能通常要比C2更好。
• 使用Java編寫，對於Java語言，尤其是新特性，比如Lambda、Stream等更加友好。
• 更深層次的最佳化，比如虛擬函式的內聯、部分逃逸分析等。

2. 分層編譯

1. 解釋執行。
2. 執行不帶profiling的C1程式碼。
3. 執行僅帶方法呼叫次數以及迴圈回邊執行次數profiling的C1程式碼。
4. 執行帶所有profiling的C1程式碼。
5. 執行C2程式碼。

• 圖中第①條路徑，代表編譯的一般情況，熱點方法從解釋執行到被3層的C1編譯，最後被4層的C2編譯。
• 如果方法比較小（比如Java服務中常見的getter/setter方法），3層的profiling沒有收集到有價值的資料，JVM就會斷定該方法對於C1程式碼和C2程式碼的執行效率相同，就會執行圖中第②條路徑。在這種情況下，JVM會在3層編譯之後，放棄進入C2編譯，直接選擇用1層的C1編譯執行。
• 在C1忙碌的情況下，執行圖中第③條路徑，在解釋執行過程中對程式進行profiling ，根據資訊直接由第4層的C2編譯。
• 前文提到C1中的執行效率是1層>2層>3層，第3層一般要比第2層慢35%以上，所以在C2忙碌的情況下，執行圖中第④條路徑。這時方法會被2層的C1編譯，然後再被3層的C1編譯，以減少方法在3層的執行時間。
• 如果編譯器做了一些比較激進的最佳化，比如分支預測，在實際執行時發現預測出錯，這時就會進行反最佳化，重新進入解釋執行，圖中第⑤條執行路徑代表的就是反最佳化。

3. 即時編譯的觸發

public void nlp(Object obj) {
  int sum = 0;
  for (int i = 0; i < 200; i++) {
    sum += i;
  }
}

public void nlp(java.lang.Object);
    Code:
       0: iconst_0
       1: istore_1
       2: iconst_0
       3: istore_2
       4: iload_2
       5: sipush        200
       8: if_icmpge     21
      11: iload_1
      12: iload_2
      13: iadd
      14: istore_1
      15: iinc          2, 1
      18: goto          4
      21: return

• 方法呼叫次數大於由引數-XX:TierXInvocationThreshold指定的閾值乘以係數。
• 方法呼叫次數大於由引數-XX:TierXMINInvocationThreshold指定的閾值乘以係數，並且方法呼叫次數和迴圈回邊次數之和大於由引數-XX:TierXCompileThreshold指定的閾值乘以係數時。

i > TierXInvocationThreshold * s || (i > TierXMinInvocationThreshold * s  && i + b > TierXCompileThreshold * s) 
i為呼叫次數，b是迴圈回邊次數