目前CSDN,部落格園,簡書同步發表中,更多精彩歡迎訪問我的gitee pages
JVM
基本概念
JVM 是可執行 Java 程式碼的假想計算機 ,包括一套位元組碼指令集、一組暫存器、一個棧、 一個垃圾回收,堆和 一個儲存方法域。JVM 是執行在作業系統之上的,它與硬體沒有直接的互動。
執行過程
我們都知道 Java 原始檔通過編譯器,能夠產生相應的.Class 檔案,也就是位元組碼檔案,而位元組碼檔案又通過 Java 虛擬機器中的直譯器,編譯成特定機器上的機器碼 。也就是如下:
① Java 原始檔—->編譯器—->位元組碼檔案
② 位元組碼檔案—->JVM—->機器碼
每一種平臺的直譯器是不同的,但是實現的虛擬機器是相同的,這也就是 Java 為什麼能夠跨平臺的原因了,當一個程式從開始執行,這時虛擬機器就開始例項化了,多個程式啟動就會存在多個虛擬機器例項。程式退出或者關閉,則虛擬機器例項消亡,多個虛擬機器例項之間資料不能共享。
1.1 執行緒
這裡所說的執行緒指程式執行過程中的一個執行緒實體。JVM 允許一個應用併發執行多個執行緒。Hotspot JVM 中的 Java 執行緒與原生作業系統執行緒有直接的對映關係。當執行緒本地儲存、緩衝區分配、同步物件、棧、程式計數器等準備好以後,就會建立一個作業系統原生執行緒。Java執行緒結束,原生執行緒隨之被回收。作業系統負責排程所有執行緒,並把它們分配到任何可用的 CPU 上。當原生執行緒初始化完畢,就會呼叫Java執行緒的 run() 方法。當執行緒結束時,會釋放原生執行緒和 Java 執行緒的所有資源。
Hotspot JVM 後臺執行的系統執行緒主要有下面幾個:
虛擬機器執行緒(VM thread) | 這個執行緒等待 JVM 到達安全點操作出現。這些操作必須要在獨立的執行緒裡執行,因為當堆修改無法進行時,執行緒都需要 JVM 位於安全點。這些操作的型別有:stop-the-world 垃圾回收、執行緒棧 dump、執行緒暫停、執行緒偏向鎖(biased locking)解除。 |
---|---|
週期性任務執行緒 | 這執行緒負責定時器事件(也就是中斷),用來排程週期性操作的執行。 |
GC 執行緒 | 這些執行緒支援 JVM 中不同的垃圾回收活動。 |
編譯器執行緒 | 這些執行緒在執行時將位元組碼動態編譯成本地平臺相關的機器碼。 |
訊號分發執行緒 | 這個執行緒接收傳送到 JVM 的訊號並呼叫適當的 JVM 方法處理。 |
1.2 JVM記憶體區域
JVM記憶體區域主要分為執行緒私有區域【程式計數器、虛擬機器棧、本地方法區】、執行緒共享區域【JAVA堆、方法區】、直接記憶體。
執行緒私有資料區域生命週期與執行緒相同, 依賴使用者執行緒的啟動/結束而建立/銷燬(在 HotspotVM內, 每個執行緒都與作業系統的本地執行緒直接對映, 因此這部分記憶體區域的存/否跟隨本地執行緒的生/死對應)。
執行緒共享區域隨虛擬機器的啟動/關閉而建立/銷燬。
直接記憶體並不是JVM執行時資料區的一部分, 但也會被頻繁的使用: 在 JDK1.4引入的NIO提供了基於 Channel 與 Buffer 的 IO 方式, 它可以使用 Native 函式庫直接分配堆外記憶體, 然後使用DirectByteBuffer 物件作為這塊記憶體的引用進行操作(詳見: Java I/O 擴充套件), 這樣就避免了在 Java堆和 Native 堆中來回複製資料, 因此在一些場景中可以顯著提高效能。
1.2.1 程式計數器(執行緒私有)
一塊較小的記憶體空間, 是當前執行緒所執行的位元組碼的行號指示器,每條執行緒都要有一個獨立的程式計數器,這類記憶體也稱為“執行緒私有”的記憶體。
正在執行 java 方法的話,計數器記錄的是虛擬機器位元組碼指令的地址(當前指令的地址)。如果還是 Native 方法,則為空。
這個記憶體區域是唯一一個在虛擬機器中沒有規定任何 OutOfMemoryError 情況的區域。
1.2.2 虛擬機器棧(執行緒私有)
是描述 java 方法執行的記憶體模型,每個方法在執行的同時都會建立一個棧幀(Stack Frame)用於儲存區域性變數表、運算元棧、動態連結、方法出口等資訊。每一個方法從呼叫直至執行完成的過程,就對應著一個棧幀在虛擬機器棧中入棧到出棧的過程。
棧幀( Frame)是用來儲存資料和部分過程結果的資料結構,同時也被用來處理動態連結 (Dynamic Linking)、 方法返回值和異常分派( Dispatch Exception)。棧幀隨著方法呼叫而建立,隨著方法結束而銷燬——無論方法是正常完成還是異常完成(丟擲了在方法內未被捕獲的異常)都算作方法結束。
1.2.3 本地方法區(執行緒私有)
本地方法區和 Java Stack 作用類似, 區別是虛擬機器棧為執行 Java 方法服務, 而本地方法棧則為Native 方法服務, 如果一個 VM 實現使用 C-linkage 模型來支援Native 呼叫, 那麼該棧將會是一個C 棧,但 HotSpot VM 直接就把本地方法棧和虛擬機器棧合二為一。
1.2.4 堆(Heap-執行緒共享)- 執行時資料區
是被執行緒共享的一塊記憶體區域,建立的物件和陣列都儲存在 Java 堆記憶體中,也是垃圾收集器進行垃圾收集的最重要的記憶體區域。由於現代 VM 採用分代收集演算法, 因此 Java 堆從 GC 的角度還可以細分為: 新生代(Eden 區、From Survivor 區和 To Survivor 區)和老年代。
1.2.5 方法區/永久代(執行緒共享)
即我們常說的永久代(Permanent Generation), 用於儲存被 JVM 載入的類資訊、常量、靜態變數、即時編譯器編譯後的程式碼等資料. HotSpot VM把 GC分代收集擴充套件至方法區, 即使用Java堆的永久代來實現方法區, 這樣 HotSpot 的垃圾收集器就可以像管理 Java 堆一樣管理這部分記憶體, 而不必為方法區開發專門的記憶體管理器(永久帶的記憶體回收的主要目標是針對常量池的回收和型別的解除安裝, 因此收益一般很小)。
執行時常量池(Runtime Constant Pool)是方法區的一部分。Class 檔案中除了有類的版本、欄位、方法、介面等描述等資訊外,還有一項資訊是常量池 (Constant Pool Table),用於存放編譯期生成的各種字面量和符號引用,這部分內容將在類載入後存放到方法區的執行時常量池中。 Java 虛擬機器對 Class 檔案的每一部分(自然也包括常量池)的格式都有嚴格的規定,每一個位元組用於儲存哪種資料都必須符合規範上的要求,這樣才會被虛擬機器認可、裝載和執行。
1.3 JVM 執行時記憶體
Java 堆從 GC 的角度還可以細分為: 新生代(Eden 區、From Survivor 區和 To Survivor 區)和老年代。
1.3.1 新生代
是用來存放新生的物件。一般佔據堆的 1/3 空間。由於頻繁建立物件,所以新生代會頻繁觸發MinorGC 進行垃圾回收。新生代又分為 Eden 區、ServivorFrom、ServivorTo 三個區。
1.3.1.1 Eden 區
Java 新物件的出生地(如果新建立的物件佔用記憶體很大,則直接分配到老年代)。當 Eden 區記憶體不夠的時候就會觸發 MinorGC,對新生代區進行一次垃圾回收。
1.3.1.2 ServivorFrom
上一次 GC 的倖存者,作為這一次 GC 的被掃描者。
1.3.1.3 ServivorTo
保留了一次 MinorGC 過程中的倖存者。
1.3.1.4 MinorGC 的過程(複製->清空->互換)
MinorGC 採用複製演算法。
1:Eden 、ServivorFrom 複製到 ServicorTo,年齡+1
首先,把 Eden 和 ServivorFrom 區域中存活的物件複製到 ServivorTo 區域(如果有物件的年齡已經達到了老年的標準,則賦值到老年代區),同時把這些物件的年齡+1(如果 ServivorTo 不夠位置了就放到老年區);
2:清空 Eden 、ServivorFrom
然後,清空 Eden 和 ServivorFrom 中的物件;
3:ServivorTo 和 ServivorFrom 互換
最後,ServivorTo 和 ServivorFrom 互換,原 ServivorTo 成為下一次 GC 時的 ServivorFrom 區。
1.3.2 老年代
主要存放應用程式中生命週期長的記憶體物件。
老年代的物件比較穩定,所以 MajorGC 不會頻繁執行。在進行 MajorGC 前一般都先進行了一次 MinorGC,使得有新生代的物件晉身入老年代,導致空間不夠用時才觸發。當無法找到足夠大的連續空間分配給新建立的較大物件時也會提前觸發一次 MajorGC 進行垃圾回收騰出空間。
MajorGC 採用標記清除演算法:首先掃描一次所有老年代,標記出存活的物件,然後回收沒有標記的物件。MajorGC 的耗時比較長,因為要掃描再回收。MajorGC 會產生記憶體碎片,為了減少記憶體損耗,我們一般需要進行合併或者標記出來方便下次直接分配。當老年代也滿了裝不下的時候,就會丟擲 OOM(Out of Memory)異常。
1.3.3 永久代
指記憶體的永久儲存區域,主要存放 Class 和 Meta(後設資料)的資訊,Class 在被載入的時候被放入永久區域,它和存放例項的區域不同,GC 不會在主程式執行期對永久區域進行清理。所以這也導致了永久代的區域會隨著載入的 Class 的增多而脹滿,最終丟擲 OOM 異常。
1.3.3.1 JAVA8 與後設資料
在 Java8 中,永久代已經被移除,被一個稱為“後設資料區”(元空間)的區域所取代。元空間的本質和永久代類似,元空間與永久代之間最大的區別在於:元空間並不在虛擬機器中,而是使用本地記憶體。因此,預設情況下,元空間的大小僅受本地記憶體限制。類的後設資料放入 native memory, 字串池和類的靜態變數放入 java 堆中,這樣可以載入多少類的後設資料就不再由MaxPermSize 控制, 而由系統的實際可用空間來控制。
1.4 垃圾回收與演算法
1.4.1 如何確定垃圾
1.4.1.1 引用計數法
在 Java 中,引用和物件是有關聯的。如果要操作物件則必須用引用進行。因此,很顯然一個簡單的辦法是通過引用計數來判斷一個物件是否可以回收。簡單說,即一個物件如果沒有任何與之關聯的引用,即他們的引用計數都為 0,則說明物件不太可能再被用到,那麼這個物件就是可回收物件。
1.4.1.2 可達性分析
為了解決引用計數法的迴圈引用問題,Java 使用了可達性分析的方法。通過一系列的“GC roots”物件作為起點搜尋。如果在“GC roots”和一個物件之間沒有可達路徑,則稱該物件是不可達的。要注意的是,不可達物件不等價於可回收物件,不可達物件變為可回收物件至少要經過兩次標記過程。兩次標記後仍然是可回收物件,則將面臨回收。
1.4.2 標記清除演算法(Mark-Sweep)
最基礎的垃圾回收演算法,分為兩個階段:標註和清除。標記階段標記出所有需要回收的物件,清除階段回收被標記的物件所佔用的空間。如圖
從圖中我們就可以發現,該演算法最大的問題是記憶體碎片化嚴重,後續可能發生大物件不能找到可利用空間的問題。
1.4.3 複製演算法(copying)
為了解決 Mark-Sweep 演算法記憶體碎片化的缺陷而被提出的演算法。按記憶體容量將記憶體劃分為等大小的兩塊。每次只使用其中一塊,當這一塊記憶體滿後將尚存活的物件複製到另一塊上去,把已使用的記憶體清掉,如圖:
這種演算法雖然實現簡單,記憶體效率高,不易產生碎片,但是最大的問題是可用記憶體被壓縮到了原本的一半。且存活物件增多的話,Copying 演算法的效率會大大降低。
1.4.4 標記整理演算法(Mark-Compact)
結合了以上兩個演算法,為了避免缺陷而提出。標記階段和 Mark-Sweep 演算法相同,標記後不是清理物件,而是將存活物件移向記憶體的一端。然後清除端邊界外的物件。如圖:
1.4.5 分代收集演算法
分代收集法是目前大部分 JVM 所採用的方法,其核心思想是根據物件存活的不同生命週期將記憶體劃分為不同的域,一般情況下將 GC 堆劃分為老生代(Tenured/Old Generation)和新生代(Young Generation)。老生代的特點是每次垃圾回收時只有少量物件需要被回收,新生代的特點是每次垃圾回收時都有大量垃圾需要被回收,因此可以根據不同區域選擇不同的演算法。
1.4.5.1 新生代與複製演算法
目前大部分 JVM 的 GC 對於新生代都採取 Copying 演算法,因為新生代中每次垃圾回收都要回收大部分物件,即要複製的操作比較少,但通常並不是按照 1:1 來劃分新生代。一般將新生代劃分為一塊較大的 Eden 空間和兩個較小的 Survivor 空間(From Space, To Space),每次使用Eden 空間和其中的一塊 Survivor 空間,當進行回收時,將該兩塊空間中還存活的物件複製到另一塊 Survivor 空間中。
1.4.5.2 老年代與標記複製演算法
而老年代因為每次只回收少量物件,因而採用 Mark-Compact 演算法。
- JAVA 虛擬機器提到過的處於方法區的永生代(Permanet Generation),它用來儲存 class 類,常量,方法描述等。對永生代的回收主要包括廢棄常量和無用的類。
- 物件的記憶體分配主要在新生代的 Eden Space 和 Survivor Space 的 From Space(Survivor 目前存放物件的那一塊),少數情況會直接分配到老生代。
- 當新生代的 Eden Space 和 From Space 空間不足時就會發生一次 GC,進行 GC 後,Eden Space 和 From Space 區的存活物件會被挪到 To Space,然後將 Eden Space 和 From Space 進行清理。
- 如果 To Space 無法足夠儲存某個物件,則將這個物件儲存到老生代。
- 在進行 GC 後,使用的便是 Eden Space 和 To Space 了,如此反覆迴圈。
- 當物件在 Survivor 區躲過一次 GC 後,其年齡就會+1。預設情況下年齡到達 15 的物件會被移到老生代中。
1.5 JAVA 四種引用型別
1.5.1 強引用
在 Java 中最常見的就是強引用,把一個物件賦給一個引用變數,這個引用變數就是一個強引用。當一個物件被強引用變數引用時,它處於可達狀態,它是不可能被垃圾回收機制回收的,即使該物件以後永遠都不會被用到, JVM 也不會回收。因此強引用是造成 Java 記憶體洩漏的主要原因之一。
1.5.2 軟引用
軟引用需要用 SoftReference 類來實現,對於只有軟引用的物件來說,當系統記憶體足夠時它不會被回收,當系統記憶體空間不足時它會被回收。軟引用通常用在對記憶體敏感的程式中。
1.5.3 弱引用
弱引用需要用 WeakReference 類來實現,它比軟引用的生存期更短,對於只有弱引用的物件來說,只要垃圾回收機制一執行,不管 JVM 的記憶體空間是否足夠,總會回收該物件佔用的記憶體。
1.5.3 虛引用
虛引用需要 PhantomReference 類來實現,它不能單獨使用,必須和引用佇列聯合使用。虛引用的主要作用是跟蹤物件被垃圾回收的狀態。
1.6 GC 分代收集演算法 VS 分割槽收集演算法
1.6.1 分代收集演算法
當前主流 VM 垃圾收集都採用”分代收集”(Generational Collection)演算法, 這種演算法會根據物件存活週期的不同將記憶體劃分為幾塊, 如 JVM 中的 新生代、老年代、永久代,這樣就可以根據各年代特點分別採用最適當的 GC 演算法
1.6.1.1 在新生代-複製演算法
每次垃圾收集都能發現大批物件已死, 只有少量存活. 因此選用複製演算法, 只需要付出少量存活物件的複製成本就可以完成收集.
1.6.1.2 在老年代-標記整理演算法
因為物件存活率高、沒有額外空間對它進行分配擔保, 就必須採用“標記—清理”或“標記—整理”演算法來進行回收, 不必進行記憶體複製, 且直接騰出空閒記憶體.
1.6.2 分割槽收集演算法
分割槽演算法則將整個堆空間劃分為連續的不同小區間, 每個小區間獨立使用, 獨立回收. 這樣做的好處是可以控制一次回收多少個小區間 , 根據目標停頓時間, 每次合理地回收若干個小區間(而不是整個堆), 從而減少一次 GC 所產生的停頓。
1.7 GC 垃圾收集器
Java 堆記憶體被劃分為新生代和年老代兩部分,新生代主要使用複製和標記-清除垃圾回收演算法;年老代主要使用標記-整理垃圾回收演算法,因此 java 虛擬機器針對新生代和年老代分別提供了多種不同的垃圾收集器,JDK1.6 中 Sun HotSpot 虛擬機器的垃圾收集器如下:
1.7.1 Serial 垃圾收集器(單執行緒、複製演算法)
Serial(英文連續)是最基本垃圾收集器,使用複製演算法,曾經是 JDK1.3.1 之前新生代唯一的垃圾收集器。Serial 是一個單執行緒的收集器,它不但只會使用一個 CPU 或一條執行緒去完成垃圾收集工作,並且在進行垃圾收集的同時,必須暫停其他所有的工作執行緒,直到垃圾收集結束。 Serial 垃圾收集器雖然在收集垃圾過程中需要暫停所有其他的工作執行緒,但是它簡單高效,對於限定單個 CPU 環境來說,沒有執行緒互動的開銷,可以獲得最高的單執行緒垃圾收集效率,因此 Serial垃圾收集器依然是 java 虛擬機器執行在 Client 模式下預設的新生代垃圾收集器。
1.7.2 ParNew 垃圾收集器(Serial+多執行緒)
ParNew 垃圾收集器其實是 Serial 收集器的多執行緒版本,也使用複製演算法,除了使用多執行緒進行垃圾收集之外,其餘的行為和 Serial 收集器完全一樣,ParNew 垃圾收集器在垃圾收集過程中同樣也要暫停所有其他的工作執行緒。
ParNew 收集器預設開啟和 CPU 數目相同的執行緒數,可以通過-XX:ParallelGCThreads 引數來限制垃圾收集器的執行緒數。【Parallel:平行的】
ParNew 雖然是除了多執行緒外和 Serial 收集器幾乎完全一樣,但是 ParNew 垃圾收集器是很多 java虛擬機器執行在 Server 模式下新生代的預設垃圾收集器。
1.7.3 Parallel Scavenge 收集器(多執行緒複製演算法、高效)
Parallel Scavenge 收集器也是一個新生代垃圾收集器,同樣使用複製演算法,也是一個多執行緒的垃圾收集器,它重點關注的是程式達到一個可控制的吞吐量(Thoughput,CPU 用於執行使用者程式碼的時間/CPU 總消耗時間,即吞吐量=執行使用者程式碼時間/(執行使用者程式碼時間+垃圾收集時間)),高吞吐量可以最高效率地利用 CPU 時間,儘快地完成程式的運算任務,主要適用於在後臺運算而不需要太多互動的任務。自適應調節策略也是ParallelScavenge 收集器與 ParNew 收集器的一個重要區別。
1.7.4 Serial Old 收集器(單執行緒標記整理演算法 )
Serial Old 是 Serial 垃圾收集器年老代版本,它同樣是個單執行緒的收集器,使用標記-整理演算法,這個收集器也主要是執行在 Client 預設的 java 虛擬機器預設的年老代垃圾收集器。
在 Server 模式下,主要有兩個用途:
- 在 JDK1.5 之前版本中與新生代的 Parallel Scavenge 收集器搭配使用。
- 作為年老代中使用 CMS 收集器的後備垃圾收集方案。
新生代 Serial 與年老代 Serial Old 搭配垃圾收集過程圖:
新生代 Parallel Scavenge 收集器與 ParNew 收集器工作原理類似,都是多執行緒的收集器,都使用的是複製演算法,在垃圾收集過程中都需要暫停所有的工作執行緒。新生代 Parallel Scavenge/ParNew 與年老代 Serial Old 搭配垃圾收集過程圖:
1.7.5 Parallel Old 收集器(多執行緒標記整理演算法)
Parallel Old 收集器是 Parallel Scavenge 的年老代版本,使用多執行緒的標記-整理演算法,在 JDK1.6才開始提供。
在 JDK1.6 之前,新生代使用 ParallelScavenge 收集器只能搭配年老代的 Serial Old 收集器,只能保證新生代的吞吐量優先,無法保證整體的吞吐量,Parallel Old 正是為了在年老代同樣提供吞吐量優先的垃圾收集器,如果系統對吞吐量要求比較高,可以優先考慮新生代 Parallel Scavenge和年老代 Parallel Old 收集器的搭配策略。
新生代 Parallel Scavenge 和年老代 Parallel Old 收集器搭配執行過程圖:
1.7.6 CMS 收集器(多執行緒標記清除演算法)
Concurrent mark sweep(CMS)收集器是一種年老代垃圾收集器,其最主要目標是獲取最短垃圾回收停頓時間,和其他年老代使用標記-整理演算法不同,它使用多執行緒的標記-清除演算法。
最短的垃圾收集停頓時間可以為互動比較高的程式提高使用者體驗。
CMS 工作機制相比其他的垃圾收集器來說更復雜,整個過程分為以下 4 個階段:
-
初始標記
只是標記一下 GC Roots 能直接關聯的物件,速度很快,仍然需要暫停所有的工作執行緒。
-
併發標記
進行 GC Roots 跟蹤的過程,和使用者執行緒一起工作,不需要暫停工作執行緒。
-
重新標記
為了修正在併發標記期間,因使用者程式繼續執行而導致標記產生變動的那一部分物件的標記記錄,仍然需要暫停所有的工作執行緒。
-
併發清除
清除 GC Roots 不可達物件,和使用者執行緒一起工作,不需要暫停工作執行緒。由於耗時最長的併發標記和併發清除過程中,垃圾收集執行緒可以和使用者現在一起併發工作,所以總體上來看CMS 收集器的記憶體回收和使用者執行緒是一起併發地執行。
CMS 收集器工作過程:
1.7.7 G1 收集器
Garbage first 垃圾收集器是目前垃圾收集器理論發展的最前沿成果,相比與 CMS 收集器,G1 收集器兩個最突出的改進是:
-
基於標記-整理演算法,不產生記憶體碎片。
-
可以非常精確控制停頓時間,在不犧牲吞吐量前提下,實現低停頓垃圾回收。
G1 收集器避免全區域垃圾收集,它把堆記憶體劃分為大小固定的幾個獨立區域,並且跟蹤這些區域的垃圾收集進度,同時在後臺維護一個優先順序列表,每次根據所允許的收集時間,優先回收垃圾最多的區域。區域劃分和優先順序區域回收機制,確保 G1 收集器可以在有限時間獲得最高的垃圾收集效率。
1.8 JAVA IO/NIO
1.8.1 阻塞IO模型
最傳統的一種 IO 模型,即在讀寫資料過程中會發生阻塞現象。當使用者執行緒發出 IO 請求之後,核心會去檢視資料是否就緒,如果沒有就緒就會等待資料就緒,而使用者執行緒就會處於阻塞狀態,使用者執行緒交出 CPU。當資料就緒之後,核心會將資料拷貝到使用者執行緒,並返回結果給使用者執行緒,使用者執行緒才解除 block 狀態。典型的阻塞 IO 模型的例子為:data = socket.read();如果資料沒有就緒,就會一直阻塞在 read 方法。
1.8.2 非阻塞 IO 模型
當使用者執行緒發起一個 read 操作後,並不需要等待,而是馬上就得到了一個結果。如果結果是一個error 時,它就知道資料還沒有準備好,於是它可以再次傳送 read 操作。一旦核心中的資料準備好了,並且又再次收到了使用者執行緒的請求,那麼它馬上就將資料拷貝到了使用者執行緒,然後返回。所以事實上,在非阻塞 IO 模型中,使用者執行緒需要不斷地詢問核心資料是否就緒,也就說非阻塞 IO不會交出 CPU,而會一直佔用 CPU。典型的非阻塞 IO 模型一般如下:
while(true){
data = socket.read();
if(data!= error){
處理資料
break;
}
}
但是對於非阻塞 IO 就有一個非常嚴重的問題,在 while 迴圈中需要不斷地去詢問核心資料是否就緒,這樣會導致 CPU 佔用率非常高,因此一般情況下很少使用 while 迴圈這種方式來讀取資料。
1.8.3 多路複用 IO 模型
多路複用 IO 模型是目前使用得比較多的模型。Java NIO 實際上就是多路複用 IO。在多路複用 IO模型中,會有一個執行緒不斷去輪詢多個 socket 的狀態,只有當 socket 真正有讀寫事件時,才真正呼叫實際的 IO 讀寫操作。因為在多路複用 IO 模型中,只需要使用一個執行緒就可以管理多個socket,系統不需要建立新的程式或者執行緒,也不必維護這些執行緒和程式,並且只有在真正有socket 讀寫事件進行時,才會使用 IO 資源,所以它大大減少了資源佔用。在 Java NIO 中,是通過 selector.select()去查詢每個通道是否有到達事件,如果沒有事件,則一直阻塞在那裡,因此這種方式會導致使用者執行緒的阻塞。多路複用 IO 模式,通過一個執行緒就可以管理多個 socket,只有當socket 真正有讀寫事件發生才會佔用資源來進行實際的讀寫操作。因此,多路複用 IO 比較適合連線數比較多的情況。
另外多路複用 IO 為何比非阻塞 IO 模型的效率高是因為在非阻塞 IO 中,不斷地詢問 socket 狀態時通過使用者執行緒去進行的,而在多路複用 IO 中,輪詢每個 socket 狀態是核心在進行的,這個效率要比使用者執行緒要高的多。
不過要注意的是,多路複用 IO 模型是通過輪詢的方式來檢測是否有事件到達,並且對到達的事件逐一進行響應。因此對於多路複用 IO 模型來說,一旦事件響應體很大,那麼就會導致後續的事件遲遲得不到處理,並且會影響新的事件輪詢。
1.8.4 訊號驅動 IO 模型
在訊號驅動 IO 模型中,當使用者執行緒發起一個 IO 請求操作,會給對應的 socket 註冊一個訊號函式,然後使用者執行緒會繼續執行,當核心資料就緒時會傳送一個訊號給使用者執行緒,使用者執行緒接收到訊號之後,便在訊號函式中呼叫 IO 讀寫操作來進行實際的 IO 請求操作。
1.8.5 非同步 IO 模型
非同步 IO 模型才是最理想的 IO 模型,在非同步 IO 模型中,當使用者執行緒發起 read 操作之後,立刻就可以開始去做其它的事。而另一方面,從核心的角度,當它受到一個 asynchronous read 之後,它會立刻返回,說明 read 請求已經成功發起了,因此不會對使用者執行緒產生任何 block。然後,核心會等待資料準備完成,然後將資料拷貝到使用者執行緒,當這一切都完成之後,核心會給使用者執行緒傳送一個訊號,告訴它 read 操作完成了。也就說使用者執行緒完全不需要實際的整個 IO 操作是如何進行的,只需要先發起一個請求,當接收核心返回的成功訊號時表示 IO 操作已經完成,可以直接去使用資料了。
也就說在非同步 IO 模型中,IO 操作的兩個階段都不會阻塞使用者執行緒,這兩個階段都是由核心自動完成,然後傳送一個訊號告知使用者執行緒操作已完成。使用者執行緒中不需要再次呼叫 IO 函式進行具體的讀寫。這點是和訊號驅動模型有所不同的,在訊號驅動模型中,當使用者執行緒接收到訊號表示資料已經就緒,然後需要使用者執行緒呼叫 IO 函式進行實際的讀寫操作;而在非同步 IO 模型中,收到訊號表示 IO 操作已經完成,不需要再在使用者執行緒中呼叫 IO 函式進行實際的讀寫操作。
注意,非同步 IO 是需要作業系統的底層支援,在 Java 7 中,提供了 Asynchronous IO。
1.8.6 JAVA IO 包
1.8.7 JAVA NIO
NIO 主要有三大核心部分:Channel(通道),Buffer(緩衝區), Selector(選擇區)。傳統 IO 基於位元組流和字元流進行操作,而 NIO 基於 Channel (通道)和 Buffer(緩衝區)進行操作,資料總是從通道讀取到緩衝區中,或者從緩衝區寫入到通道中。Selector(選擇區)用於監聽多個通道的事件(比如:連線開啟,資料到達)。因此,單個執行緒可以監聽多個資料通道。
NIO 和傳統 IO 之間第一個最大的區別是:IO 是面向流的,NIO 是面向緩衝區的。
1.8.7.1 NIO 的緩衝區
Java IO 面向流意味著每次從流中讀一個或多個位元組,直至讀取所有位元組,它們沒有被快取在任何地方。此外,它不能前後移動流中的資料。如果需要前後移動從流中讀取的資料,需要先將它快取到一個緩衝區。NIO 的緩衝導向方法不同。資料讀取到一個它稍後處理的緩衝區,需要時可在緩衝區中前後移動。這就增加了處理過程中的靈活性。但是,還需要檢查是否該緩衝區中包含所有您需要處理的資料。而且,需確保當更多的資料讀入緩衝區時,不要覆蓋緩衝區裡尚未處理的
資料。
1.8.7.2 NIO 的非阻塞
IO 的各種流是阻塞的。這意味著,當一個執行緒呼叫 read() 或 write()時,該執行緒被阻塞,直到有一些資料被讀取,或資料完全寫入。該執行緒在此期間不能再幹任何事情了。 NIO 的非阻塞模式,使一個執行緒從某通道傳送請求讀取資料,但是它僅能得到目前可用的資料,如果目前沒有資料可用時,就什麼都不會獲取。而不是保持執行緒阻塞,所以直至資料變的可以讀取之前,該執行緒可以繼續做其他的事情。 非阻塞寫也是如此。一個執行緒請求寫入一些資料到某通道,但不需要等待它完全寫入,這個執行緒同時可以去做別的事情。 執行緒通常將非阻塞 IO 的空閒時間用於在其它通道上執行 IO 操作,所以一個單獨的執行緒現在可以管理多個輸入和輸出通道(channel)。
1.8.7.3 Channel
首先說一下 Channel,國內大多翻譯成“通道”。Channel 和 IO 中的 Stream(流)是差不多一個等級的。只不過 Stream 是單向的,譬如:InputStream, OutputStream,而 Channel 是雙向的,既可以用來進行讀操作,又可以用來進行寫操作。
NIO 中的 Channel 的主要實現有:
- FileChannel
- DatagramChannel
- SocketChannel
- ServerSocketChannel
這裡看名字就可以猜出個所以然來:分別可以對應檔案 IO、UDP 和 TCP(Server 和 Client)。
下面演示的案例基本上就是圍繞這 4 個型別的 Channel 進行陳述的。
1.8.7.4 Buffer
Buffer,顧名思義,緩衝區,實際上是一個容器,是一個連續陣列。Channel 提供從檔案、網路讀取資料的渠道,但是讀取或寫入的資料都必須經由 Buffer。
上面的圖描述了從一個客戶端向服務端傳送資料,然後服務端接收資料的過程。客戶端傳送資料時,必須先將資料存入 Buffer 中,然後將 Buffer 中的內容寫入通道。服務端這邊接收資料必須通過 Channel 將資料讀入到 Buffer 中,然後再從 Buffer 中取出資料來處理。
在 NIO 中,Buffer 是一個頂層父類,它是一個抽象類,常用的 Buffer 的子類有:ByteBuffer、IntBuffer、 CharBuffer、 LongBuffer、 DoubleBuffer、FloatBuffer、ShortBuffer
1.8.7.5 Selector
Selector 類是 NIO 的核心類,Selector 能夠檢測多個註冊的通道上是否有事件發生,如果有事件發生,便獲取事件然後針對每個事件進行相應的響應處理。這樣一來,只是用一個單執行緒就可以管理多個通道,也就是管理多個連線。這樣使得只有在連線真正有讀寫事件發生時,才會呼叫函式來進行讀寫,就大大地減少了系統開銷,並且不必為每個連線都建立一個執行緒,不用去維護多個執行緒,並且避免了多執行緒之間的上下文切換導致的開銷。
1.9 JVM 類載入機制
JVM 類載入機制分為五個部分:載入,驗證,準備,解析,初始化,下面我們就分別來看一下這五個過程。
1.9.1.1 載入
載入是類載入過程中的一個階段,這個階段會在記憶體中生成一個代表這個類的 java.lang.Class 物件,作為方法區這個類的各種資料的入口。注意這裡不一定非得要從一個 Class 檔案獲取,這裡既可以從 ZIP 包中讀取(比如從 jar 包和 war 包中讀取),也可以在執行時計算生成(動態代理),也可以由其它檔案生成(比如將 JSP 檔案轉換成對應的 Class 類)。
1.9.1.2 驗證
這一階段的主要目的是為了確保 Class 檔案的位元組流中包含的資訊是否符合當前虛擬機器的要求,並且不會危害虛擬機器自身的安全。
1.9.1.3 準備
準備階段是正式為類變數分配記憶體並設定類變數的初始值階段,即在方法區中分配這些變數所使用的記憶體空間。注意這裡所說的初始值概念,比如一個類變數定義為:
public static int v = 8080;
實際上變數 v 在準備階段過後的初始值為 0 而不是 8080,將 v 賦值為 8080 的 put static 指令是程式被編譯後,存放於類構造器
public static final int v = 8080;
在編譯階段會為 v 生成 ConstantValue 屬性,在準備階段虛擬機器會根據 ConstantValue 屬性將 v賦值為 8080。
1.9.1.4 解析
解析階段是指虛擬機器將常量池中的符號引用替換為直接引用的過程。符號引用就是 class 檔案中的:
-
CONSTANT_Class_info
-
CONSTANT_Field_info
-
CONSTANT_Method_info
等型別的常量。
1.9.1.5 符號引用
符號引用與虛擬機器實現的佈局無關,引用的目標並不一定要已經載入到記憶體中。各種虛擬機器實現的記憶體佈局可以各不相同,但是它們能接受的符號引用必須是一致的,因為符號引用的字面量形式明確定義在 Java 虛擬機器規範的 Class 檔案格式中。
1.9.1.6 直接引用
直接引用可以是指向目標的指標,相對偏移量或是一個能間接定位到目標的控制程式碼。如果有了直接引用,那引用的目標必定已經在記憶體中存在。
1.9.1.7 初始化
初始化階段是類載入最後一個階段,前面的類載入階段之後,除了在載入階段可以自定義類載入器以外,其它操作都由 JVM 主導。到了初始階段,才開始真正執行類中定義的 Java 程式程式碼。
1.9.1.8 類構造器
初始化階段是執行類構造器
注意以下幾種情況不會執行類初始化:
- 通過子類引用父類的靜態欄位,只會觸發父類的初始化,而不會觸發子類的初始化。
- 定義物件陣列,不會觸發該類的初始化。
- 常量在編譯期間會存入呼叫類的常量池中,本質上並沒有直接引用定義常量的類,不會觸發定義常量所在的類。
- 通過類名獲取 Class 物件,不會觸發類的初始化。
- 通過 Class.forName 載入指定類時,如果指定引數 initialize 為 false 時,也不會觸發類初始化,其實這個引數是告訴虛擬機器,是否要對類進行初始化。
- 通過 ClassLoader 預設的 loadClass 方法,也不會觸發初始化動作。
1.9.2 類載入器
虛擬機器設計團隊把載入動作放到 JVM 外部實現,以便讓應用程式決定如何獲取所需的類,JVM 提供了 3 種類載入器:
1.9.2.1 啟動類載入器(Bootstrap ClassLoader)
負責載入 JAVA_HOME\lib 目錄中的,或通過-Xbootclasspath 引數指定路徑中的,且被虛擬機器認可(按檔名識別,如 rt.jar)的類。
1.9.2.2 擴充套件類載入器(Extension ClassLoader)
負責載入 JAVA_HOME\lib\ext 目錄中的,或通過 java.ext.dirs 系統變數指定路徑中的類庫。
1.9.2.3 應用程式類載入器(Application ClassLoader)
負責載入使用者路徑(classpath)上的類庫。 JVM 通過雙親委派模型進行類的載入,當然我們也可以通過繼承 java.lang.ClassLoader實現自定義的類載入器。
1.9.3 雙親委派
當一個類收到了類載入請求,他首先不會嘗試自己去載入這個類,而是把這個請求委派給父類去完成,每一個層次類載入器都是如此,因此所有的載入請求都應該傳送到啟動類載入其中,只有當父類載入器反饋自己無法完成這個請求的時候(在它的載入路徑下沒有找到所需載入的Class),子類載入器才會嘗試自己去載入。
採用雙親委派的一個好處是比如載入位於 rt.jar 包中的類 java.lang.Object,不管是哪個載入器載入這個類,最終都是委託給頂層的啟動類載入器進行載入,這樣就保證了使用不同的類載入器最終得到的都是同樣一個 Object 物件。
1.9.4 OSGI(動態模型系統)
OSGi(Open Service Gateway Initiative),是面向 Java 的動態模型系統,是 Java 動態化模組化系統的一系列規範。
1.9.4.1 動態改變構造
OSGi 服務平臺提供在多種網路裝置上無需重啟的動態改變構造的功能。為了最小化耦合度和促使這些耦合度可管理,OSGi 技術提供一種面向服務的架構,它能使這些元件動態地發現對方。
1.9.4.2 模組化程式設計與熱插拔
OSGi 旨在為實現 Java 程式的模組化程式設計提供基礎條件,基於 OSGi 的程式很可能可以實現模組級的熱插拔功能,當程式升級更新時,可以只停用、重新安裝然後啟動程式的其中一部分,這對企業級程式開發來說是非常具有誘惑力的特性。
OSGi 描繪了一個很美好的模組化開發目標,而且定義了實現這個目標的所需要服務與架構,同時也有成熟的框架進行實現支援。但並非所有的應用都適合採用 OSGi 作為基礎架構,它在提供強大功能同時,也引入了額外的複雜度,因為它不遵守了類載入的雙親委託模型。